检索增强生成：用于知识密集型NLP任务

论文概述检索增强生成 (Retrieval-Augmented Generation, RAG) 是一个突破性的框架，它结合了预训练的参数化记忆（序列到序列模型）和非参数化记忆（维基百科的密集向量索引），专门用于知识密集型NLP任务。RAG模型使用预训练的神经检索器访问维基百科，然后将检索到的文档作为上下文传递给生成器,产生更具体、更多样化、更符合事实的输出。这项工作在开放域问答任务上达到了最先进水平，并证明了检索增强模型比纯参数化模型产生更可靠和可解释的输出。 论文信息： 发布时间：2020-05-22 作者：Patrick Lewis, Ethan Perez, Aleksandra Piktus等 机构：Facebook AI Research, University College London, New York University 研究方向：提示工程 (Prompt ...

阅读全文