LinearRAG: 基于线性图的大规模语料检索增强生成

论文概述LinearRAG是一种针对大规模语料库的新型检索增强生成框架,旨在解决当前RAG系统在处理大规模非结构化语料和不可靠知识图谱构建方面的局限性。该方法的核心创新在于构建了一个名为”三图”(Tri-Graph)的轻量级图结构,通过避免不稳定的关系建模,实现了与语料库规模呈线性关系的扩展能力。LinearRAG采用两阶段检索策略,在处理复杂推理任务时能够更准确地定位相关段落,有效减少了大语言模型的幻觉问题。 论文信息: 发布时间:2025-10-11 作者:Luyao Zhuang, Shengyuan Chen, Yilin Xiao, Huachi Zhou, Yujing Zhang, Hao Chen, Qinggang Zhang, Xiao Huang 研究方向:上下文工程 (Context Engineering), 检索增强生成 (Retrieval-Augme...

阅读全文

Memory-R1: 通过强化学习增强大语言模型Agent的记忆管理能力

论文概述Memory-R1是一个创新性的强化学习框架,旨在解决大语言模型的无状态特性所带来的记忆局限问题。该框架通过引入两个专门化的智能体来实现自适应的外部记忆管理:记忆管理器(Memory Manager)负责学习结构化的记忆操作(ADD、UPDATE、DELETE),而回答智能体(Answer Agent)则负责预选和推理相关的记忆条目。Memory-R1的突破性在于使用结果驱动的强化学习技术,在极少监督的情况下实现高效的记忆管理。 论文信息: 发布时间:2025-08-27 作者:Sikuan Yan, Xiufeng Yang, Zuchao Huang, Ercong Nie, Zifeng Ding, Zonggen Li, Xiaowen Ma, Kristian Kersting, Jeff Z. Pan, Hinrich Schütze, Volker Tresp...

阅读全文

大语言模型时代的RAG评估:综合性调研

论文概述这篇综述性论文系统地回顾了检索增强生成(RAG)系统在大语言模型时代的评估方法和框架,为这一快速发展的领域提供了全面的技术图谱。论文深入分析了RAG评估的多个维度,包括系统性能、事实准确性、安全性和计算效率等核心指标,系统性地回顾了传统评估方法,并详细探讨了针对LLM驱动的RAG系统的新兴评估技术。此外,还编译和分类了大量RAG专用数据集,为研究者选择合适的评估基准提供了宝贵参考。 论文信息: 发布时间:2025-04-21 作者:Aoran Gan, Hao Yu, Kai Zhang, Qi Liu, Wenyu Yan, Zhenya Huang, Shiwei Tong, Guoping Hu 研究方向:上下文工程 (Context Engineering), 检索增强生成 (Retrieval-Augmented Generation), 评估方法 (Evalua...

阅读全文

Infinite Retrieval: 基于注意力增强的无限长上下文处理

论文概述Infinite Retrieval(InfiniRetri)是一项突破性的研究成果,解决了大语言模型在处理超长上下文输入时面临的核心挑战。该方法的创新之处在于利用模型自身的注意力信息来实现对无限长输入的精确检索,而无需任何额外训练。研究团队发现模型的注意力分布与生成答案之间存在强相关性,基于这一洞察设计了InfiniRetri方法。在Needle-In-a-Haystack测试中,该方法处理超过100万token时达到100%准确率,在真实场景中带来高达288%的性能提升。 论文信息: 发布时间:2025-02-18 作者:Xiaoju Ye, Zhichun Wang, Jingyuan Wang 研究方向:上下文工程 (Context Engineering), 长上下文处理 (Long-Context Processing) 核心技术:注意力增强 (Attentio...

阅读全文

基于图结构的检索增强生成综述

基于图结构的检索增强生成综述 ArXiv ID: 2501.00309作者: Haoyu Han, Yu Wang, Harry Shomer, Kai Guo, Jiayuan Ding…发布日期: 2024-12-31分类: context-engineering评分: 4.5/5.0 摘要检索增强生成(RAG)技术通过从外部数据源检索相关信息来增强大语言模型(LLM)的能力,使其能够提供更准确、更新的知识。本综述论文系统地研究了基于图结构数据的RAG技术(GraphRAG),提出了一个包含查询处理器、检索器、组织器、生成器和数据源五大组件的全面框架。该综述覆盖了知识图谱、文档图、科学图谱、社交图等10个不同领域的GraphRAG技术,为研究者提供了跨学科的研究视角。 📊 GraphRAG:图结构时代的检索增强生成全景图在大语言模型(LLM)快速发展的今天,如何让A...

阅读全文

智能体上下文工程:自我进化的语言模型上下文系统

智能体上下文工程:自我进化的语言模型上下文系统 ArXiv ID: 2510.04618作者: Qizheng Zhang, Changran Hu, Shubhangi Upasani, Boyuan Ma, Fenglu Hong…发布日期: 2024-10-06分类: context-engineering评分: 4.2/5.0 摘要本文提出了智能体上下文工程(ACE)框架,将上下文从静态的提示文本转变为可进化的”执行手册”。ACE通过生成、反思和策展三个步骤,让语言模型能够从执行反馈中自主学习和优化上下文,无需人工标注。该方法有效解决了上下文崩溃和简洁性偏见问题,在智能体任务上实现+10.6%性能提升,在金融任务上提升+8.6%,展现了上下文工程的新范式。 🤖 ACE:让上下文自己进化的智能体系统核心创新想象一下,如果LLM的上下文提示能够像生物进化一样,从每次...

阅读全文

图检索增强生成综述

图检索增强生成综述 ArXiv ID: 2408.08921作者: Boci Peng, Yun Zhu, Yongchao Liu, Xiaohe Bo, Haizhou Shi…发布日期: 2024-08-15分类: context-engineering评分: 4.1/5.0 摘要本文提供了图检索增强生成(GraphRAG)方法的首个全面综述。将GraphRAG工作流形式化为三个阶段:基于图的索引(Graph-Based Indexing)、图引导检索(Graph-Guided Retrieval)和图增强生成(Graph-Enhanced Generation)。系统回顾了每个阶段的核心技术和训练方法,探讨了下游任务、应用领域和评估方法,并配套开源GitHub仓库供研究者参考。 📊 GraphRAG综述:首个系统性的图检索增强生成全景为什么需要GraphRAG?...

阅读全文

© 2025 Generative AI Discovery All Rights Reserved.
Theme by hiero