描述
检索增强生成（RAG）是一种人工智能模型架构，通过将其与外部知识库集成来增强预训练语言模型的功能。与仅依赖内部参数式记忆的传统模型不同，RAG 模型通过从非参数式记忆（通常是大量文档语料库）中检索到的信息来增强其知识。
这种集成是通过一个预训练的神经检索器实现的。当提出查询时，检索器会从外部数据源中检索相关段落。然后，语言模型会根据这些检索到的段落来指导其生成，从而产生更具事实性和上下文相关性的输出。这种机制允许通过简单地修改外部索引来动态更新知识，而无需对整个模型进行昂贵的重新训练。
Hugging Face 在 Transformers 库中实现的 RAG 提供了用于序列和令牌级别生成的工具。`RagRetriever` 类负责检索过程，根据编码的查询检索文档。然后，`RagSequenceForGeneration` 和 `RagTokenForGeneration` 模型利用这些检索到的文档来生成文本。这些模型设计灵活，支持各种配置和集成方法，包括用于减少内存占用的量化。
RAG 架构对于需要最新信息或领域特定知识的任务特别有益。通过将响应建立在外部数据之上，RAG 模型可以缓解幻觉等问题，并提供更可靠的信息。在不依赖模型的情况下独立更新知识库的能力，使 RAG 成为信息频繁变化的应用程序（如新闻摘要、动态数据集上的问答或提供最新产品文档支持）的强大工具。
用户可以通过简单的 Python 代码利用 RAG 模型，并提供文本生成和量化的示例。Hugging Face 生态系统提供了预训练的 RAG 检查点和丰富的文档，以促进集成和实验。配置检索器、数据集和索引的灵活性允许根据特定的用例和数据需求进行定制。
RAG亮点
检索增强生成（RAG）架构
结合参数式和非参数式记忆
利用预训练的神经检索器
根据检索到的段落指导生成
提高输出的事实准确性
通过修改索引实现知识更新
支持序列级别生成
支持令牌级别生成
包含用于文档检索的 `RagRetriever`
提供 `RagSequenceForGeneration` 和 `RagTokenForGeneration` 模型
支持量化以减少内存占用
与 Hugging Face Transformers 库集成
提供文本生成的示例代码
允许自定义检索器和数据集配置
RAG入门
访问模型：从 Hugging Face Transformers 库导入 RAG 组件。
设置检索器：使用预训练模型和所需数据集/索引初始化 `RagRetriever`。
加载模型：实例化 `RagSequenceForGeneration` 或 `RagTokenForGeneration`，可选择提供检索器。
准备输入：使用兼容的分词器对输入查询进行分词。
生成文本：使用分词后的输入调用模型的 `generate` 方法。
集成 API：在您的应用程序中使用模型的各种方法来实现 RAG 驱动的文本生成。
优化性能：考虑使用量化或其他技术以实现高效部署。
RAG的使用案例
- 事实问答
- 动态知识集成
- 领域特定内容生成
- 增强型聊天机器人
- 信息检索与综合
- 内容摘要
