直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

RAG是什么

回答

RAG（Retrieval-Augmented Generation）即检索增强生成，是一种结合检索和生成能力的自然语言处理架构，旨在为大语言模型（LLM）提供额外的、来自外部知识源的信息。

大模型需要 RAG 进行检索优化的原因在于其存在一些缺点：

  1. 无法记住所有知识，尤其是长尾知识，受限于训练数据和学习方式，对长尾知识的接受能力不高。
  2. 知识容易过时且不好更新，微调效果不佳且有丢失原有知识的风险。
  3. 输出难以解释和验证，存在黑盒、不可控和受幻觉干扰等问题。
  4. 容易泄露隐私训练数据。
  5. 规模大，训练和运行成本高。

RAG 具有以下优点：

  1. 数据库对数据的存储和更新稳定，不存在模型学不会的风险。
  2. 数据库的数据更新敏捷，增删改查可解释，对原有知识无影响。
  3. 数据库内容明确、结构化，加上模型的理解能力，能降低大模型输出出错的可能。
  4. 便于管控用户隐私数据，可控、稳定、准确。
  5. 可降低大模型的训练成本，新知识存储在数据库即可，无需频繁更新模型。

RAG 的核心流程是根据用户提问，从私有知识中检索到“包含答案的内容”，然后把“包含答案的内容”和用户提问一起放到 prompt 中，提交给大模型，让大模型的回答充分考虑到“包含答案的内容”。其最常见应用场景是知识问答系统。

一个 RAG 的应用可抽象为 5 个过程：

  1. 文档加载：从多种不同来源加载文档，LangChain 提供了 100 多种不同的文档加载器。
  2. 文本分割：把 Documents 切分为指定大小的块。
  3. 存储：包括将切分好的文档块进行嵌入转换成向量的形式，以及将 Embedding 后的向量数据存储到向量数据库。
  4. 检索：通过某种检索算法找到与输入问题相似的嵌入片。
  5. 输出：把问题以及检索出来的嵌入片一起提交给 LLM，LLM 会通过问题和检索出来的提示生成更合理的答案。
内容由 AI 大模型生成，请仔细甄别（powered by aily）

参考资料

问：RAG 是什么？

RAG（Retrieval-Augmented Generation），即检索增强生成，是一种结合检索和生成能力的自然语言处理架构，它旨在为大语言模型（LLM）提供额外的、来自外部知识源的信息。简单来说，就是通过检索的模式，为大语言模型的生成提供帮助，从而使大模型生成的答案更符合要求。[heading2]为什么LLM需要RAG？[content]众所周知，大模型已经在很多领域和问题下都取得了很好的效果，那为什么还需要RAG进行检索优化呢？[heading3]LLM的缺点[content]1.LLM无法记住所有知识，尤其是长尾的。受限于训练数据、现有的学习方式，对长尾知识的接受能力并不是很高；长尾数据是指数据集中某些类别数量较少，而其他类别样本数较多的不平衡“长尾”状态。例如在自然语言处理中，一些少见的词汇出现频率很低，而常见的词汇出现频率很高。2.LLM的知识容易过时，而且不好更新。只是通过微调，模型的接受能力其实并不高而且很慢，甚至有丢失原有知识的风险；3.LLM的输出难以解释和验证。一方面最终的输出的内容黑盒且不可控，另一方面最终的结果输出可能会受到幻觉之类的问题的干扰；4.LLM容易泄露隐私训练数据。用用户个人信息训练模型，会让模型可以通过诱导泄露用户的隐私；5.LLM的规模大，训练和运行的成本都很大。[heading3]RAG的优点[content]1.数据库对数据的存储和更新是稳定的，不像模型会存在学不会的风险。2.数据库的数据更新可以做得很敏捷，增删改查可解释，而且对原有的知识不会有影响。3.数据库的内容是明确、结构化的，加上模型本身的理解能力，一般而言数据库中的内容以及检索算法不出错，大模型的输出出错的可能就大大降低。4.知识库中存储用户数据，为用户隐私数据的管控带来很大的便利，而且可控、稳定、准确。5.数据库维护起来，可以降低大模型的训练成本，毕竟新知识存储在数据库即可，不用频繁更新模型，尤其是不用因为知识的更新而训练模型。

RAG性能提升策略和评估方法（产品视角）

作者：牛大局原文：[RAG性能提升策略和评估方法（产品视角）](https://iac2rhlh02p.feishu.cn/wiki/WL4Lwx5dyigl4zkZQojc7esQnWf)[heading1]一、前言[content]相信经过一年的知识沉淀，RAG是什么大家都不陌生了。RAG是检索增强生成（Retrieval-Augmented Generation）的缩写，它是一种结合了检索模型和生成模型的技术。其核心目的是通过某种途径把知识告诉给AI大模型，让大模型“知道”我们的私有知识，变得越来越“懂”我们。RAG的核心流程是根据用户提问，从私有知识中检索到“包含答案的内容”，然后把“包含答案的内容”和用户提问一起放到prompt（提示词）中，提交给大模型，此时大模型的回答就会充分考虑到“包含答案的内容”。RAG的最常见应用场景知识问答系统：RAG可以用于构建问答系统，用户提出问题，RAG模型从大规模的文档集合中检索相关的文档，然后生成回答。

手把手教你本地部署大模型以及搭建个人知识库

因为利用大模型的能力搭建知识库本身就是一个RAG技术的应用。所以在进行本地知识库的搭建实操之前，我们需要先对RAG有一个大概的了解。以下内容会有些干，我会尽量用通俗易懂的描述进行讲解。我们都知道大模型的训练数据是有截止日期的，那当我们需要依靠不包含在大模型训练集中的数据时，我们该怎么做呢？实现这一点的主要方法就是通过检索增强生成RAG（Retrieval Augmented Generation）。在这个过程中，首先检索外部数据，然后在生成步骤中将这些数据传递给LLM。我们可以将一个RAG的应用抽象为下图的5个过程：文档加载（Document Loading）：从多种不同来源加载文档。LangChain提供了100多种不同的文档加载器，包括PDF在内的非结构化的数据、SQL在内的结构化的数据，以及Python、Java之类的代码等文本分割（Splitting）：文本分割器把Documents切分为指定大小的块，我把它们称为“文档块”或者“文档片”存储（Storage）：存储涉及到两个环节，分别是：将切分好的文档块进行嵌入（Embedding）转换成向量的形式将Embedding后的向量数据存储到向量数据库检索（Retrieval）：一旦数据进入向量数据库，我们仍然需要将数据检索出来，我们会通过某种检索算法找到与输入问题相似的嵌入片Output（输出）：把问题以及检索出来的嵌入片一起提交给LLM，LLM会通过问题和检索出来的提示一起来生成更加合理的答案[heading2]文本加载器（Document Loaders）[content]文本加载器就是将用户提供的文本加载到内存中，便于进行后续的处理

其他人在问
RAG加速有什么好办法吗
以下是一些加速 RAG 的好办法： 1. 确保 LLM 以正确的格式回应：函数调用已成为确保 LLM 严格输出特定格式的相对靠谱的新方法，推荐使用此方法提升性能。可参考结构化输出文档，其中高层次的 LangChain API 展示了不同 LLM 如何调用工具和函数。 2. 使用参考样例：在实际操作中，将输入和对应输出的样例纳入其中通常大有裨益，这些样例有时比指示本身更能有效指导 LLM 处理特定情况。在提取用例文档中可找到更多细节，助您从 LLMs 中提取更好的性能。 此外，LangChain 携手 NVIDIA 为 RAG 加速带来了新的篇章： 1. 将 NVIDIA NIM 与 LangChain 结合使用：新增了支持 NIM 的集成包，安装专门的集成包后可导入所需模型，并通过示例展示如何构建应用程序，包括安装额外的包、加载数据源、初始化嵌入模型等一系列操作。 2. NVIDIA NIM 介绍：NVIDIA NIM 是一系列用户友好的微服务，旨在加速企业内部生成式 AI 的部署进程，支持广泛的 AI 模型，基于强大的推理引擎和技术构建，提供无缝的 AI 推理体验，是实现大规模、高性能生成式 AI 推理的最佳选择。其具有自托管特性，能保证数据安全；提供预构建的容器，方便选择和使用最新模型；具有可扩展性。开始使用 NIM 非常简单，在 NVIDIA API 目录中可轻松访问多种 AI 模型，NIM 是 NVIDIA AI Enterprise 的一部分，可通过相关博客获取详细指南。
2024-11-12
搜索DragGAN
DragGAN 于 2023 年 6 月 25 日开源。喜欢 AI 绘画的对它应该不陌生，期待它带来更大的惊艳。此外，相关论文中增加了微软研究院新发布的多模态 AI 助手；学习路径中增加了适合初学者的深度学习课程 fast.ai ；AI 名词增加到 80 多个，补充了很多技术名词。您可以通过以下链接获取更多详细信息：
2024-11-11
AI相关常见缩写及对应含义，包含例如prompt，rag
以下是一些 AI 相关的常见缩写及对应含义： LLM：Large language model 的缩写，即大语言模型。 Prompt：中文译作提示词，是输入给大模型的文本内容，可理解为与大模型说的话或下达的指令，其质量会显著影响大模型回答的质量。 Token：大模型语言体系中的最小单元。不同厂商的大模型对中文的文本切分方法不同，通常 1Token≈12 个汉字。大模型的收费计算及输入输出长度限制常以 token 为单位计量。 上下文（context）：指对话聊天内容前、后的内容信息，其长度和窗口会影响大模型回答的质量。 在 AI 绘画中，常见的画面构图提示词有： 视图相关：Bottom view（底视图）、front,side,rear view（前视图、侧视图、后视图）、product view（产品视图）、extreme closeup view（极端特写视图）、look up（仰视）、firstperson view（第一人称视角）、isometric view（等距视图）、closeup view（特写视图）、high angle view（高角度视图）、microscopic view（微观）、super side angle（超博角）、thirdperson perspective（第三人称视角）、Aerial view（鸟瞰图）、twopoint perspective（两点透视）、Threepoint perspective（三点透视）、portrait（肖像）、Elevation perspective（立面透视）、ultra wide shot（超广角镜头）、headshot（爆头）、a crosssection view of）
2024-11-08
如何提高RAG应用中的准确率
以下是一些提高 RAG 应用准确率的方法： 1. 基于结构化数据来 RAG： 避免数据向量化和语义搜索的问题，直接利用原始数据和 LLM 的交互，提高准确率。因为结构化数据的特征和属性明确，能用有限标签集描述，可用标准查询语言检索，不会出现信息损失或语义不匹配的情况。 减少 LLM 的幻觉可能性，LLM 只需根据用户问题提取核心信息和条件，并形成标准查询语句，无需理解整个文档语义。 提高效率，省去数据向量化和语义搜索过程，直接使用标准查询和原始数据进行回复，且结构化数据的存储和更新更易更省空间。 增加灵活性，适应不同数据源和查询需求，只要数据是结构化的，就可用此方法进行 RAG。 2. 参考行业最佳实践，如 OpenAI 的案例： 从较低的准确率开始，尝试多种方法，标记哪些被采用到生产中。 通过尝试不同大小块的信息和嵌入不同内容部分，提升准确率。 采用 Reranking 和对不同类别问题特别处理的方法进一步提升。 结合提示工程、查询扩展等方法，最终达到较高的准确率，同时强调模型精调和 RAG 结合使用的潜力。 3. 深入了解 RAG 的基础概念： RAG 由检索器和生成器组成，检索器从外部知识中快速找到与问题相关的信息，生成器利用这些信息制作精确连贯的答案，适合处理需要广泛知识的任务，如问答系统，能提供详细准确的回答。
2024-11-08
什么是RAG的分词？
RAG（RetrievalAugmented Generation，检索增强生成）是一种结合检索和生成能力的自然语言处理架构，旨在为大语言模型（LLM）提供额外的、来自外部知识源的信息。通过检索的模式为大语言模型的生成提供帮助，使大模型生成的答案更符合要求。 LLM 需要 RAG 进行检索优化的原因在于 LLM 存在一些缺点： 1. 无法记住所有知识，尤其是长尾的，受限于训练数据和现有的学习方式，对长尾知识的接受能力不高。 2. 知识容易过时且不好更新，微调效果不佳且有丢失原有知识的风险。 3. 输出难以解释和验证，存在内容黑盒、不可控以及受幻觉干扰等问题。 4. 容易泄露隐私训练数据。 5. 规模大，训练和运行成本高。 RAG 具有以下优点： 1. 数据库对数据的存储和更新稳定，不存在模型学不会的风险。 2. 数据库的数据更新敏捷，增删改查可解释，且对原有知识无影响。 3. 数据库内容明确、结构化，加上模型的理解能力，能降低大模型输出出错的可能。 4. 知识库存储用户数据，便于管控用户隐私数据，且可控、稳定、准确。 5. 数据库维护可降低大模型的训练成本，新知识存储在数据库即可，无需频繁更新模型。 在 PDF 结构识别方面，基于规则的方法 PyPDF 存在一些问题： 1. 不擅于检测段落的边界，没有解析段落的边界，使用特殊分隔符“.\n”的启发式方法在很多情况下不成立。 2. 无法识别表格内的结构，表格的结构会被完全破坏，大语言模型无法从中辨别有意义的信息。 3. 无法识别内容的阅读顺序，按照字符存储顺序解析文档，面对复杂布局时可能导致解析结果混乱。 4. 无法识别段落和表格的边界，会错误地分割表格，并将部分与后续段落合并。 PyPDF 的解析和分块工作流程是：先将 PDF 文档中的字符序列化为没有文档结构信息的长序列，然后使用分割规则如换行符“\n”进行分割，仅当组合块的长度不超过预定限制 N 个字符时，才会合并相邻块。
2024-11-05
RAG
RAG（RetrievalAugmented Generation）即检索增强生成，是一种结合检索和生成能力的自然语言处理架构。 它旨在为大语言模型（LLM）提供额外的、来自外部知识源的信息。通过检索的模式为大语言模型的生成提供帮助，使大模型生成的答案更符合要求。 LLM 需要 RAG 进行检索优化的原因在于 LLM 存在一些缺点： 1. 无法记住所有知识，尤其是长尾知识，受限于训练数据和学习方式，对长尾知识的接受能力不高。 2. 知识容易过时且不好更新，微调效果不佳且有丢失原有知识的风险。 3. 输出难以解释和验证，存在内容黑盒、不可控以及受幻觉问题干扰的情况。 4. 容易泄露隐私训练数据。 5. 规模大，训练和运行成本高。 RAG 具有以下优点： 1. 数据库对数据的存储和更新稳定，不存在模型学不会的风险。 2. 数据库的数据更新敏捷，可解释且对原有知识无影响。 3. 数据库内容明确、结构化，结合模型的理解能力，降低大模型输出出错的可能。 4. 便于管控用户隐私数据，可控、稳定、准确。 5. 可降低大模型的训练成本，新知识存储在数据库即可，无需频繁更新模型。 RAG 在 Natural Questions、WebQuestions 和 CuratedTrec 等基准测试中表现出色，在使用 MSMARCO 和 Jeopardy 问题进行测试时，生成的答案更符合事实、具体且多样，FEVER 事实验证使用 RAG 后也得到了更好的结果。基于检索器的方法越来越流行，常与 ChatGPT 等流行 LLM 结合使用来提高其能力和事实一致性。 在商业化问答场景中，优化 AI 更准确回答问题的过程中，RAG 是一个重要的术语。它由检索器和生成器两部分组成，检索器从外部知识中快速找到与问题相关的信息，生成器利用这些信息制作精确连贯的答案，适合处理需要广泛知识的任务，如问答系统，能提供详细准确的回答。
2024-11-04