Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

推理行大模型对于RAG的准确性提升，带来哪些改变

Answer

推理行大模型对 RAG 准确性提升带来了以下改变：

  1. 当辅以能有效提取文档中结构化信息并整合为提示词的 PDF 解析器时，大语言模型能作出更准确的响应，提高了提供给模型的数据质量和相关性，从而提升模型输出质量。
  2. 大模型应用领域常用的 RAG 方法，能让模型用自定义数据生成结果，处理无尽私有数据，将模型当成高效推理机器。但 RAG 存在一些常见误区：
    • 随意输入任何文档不一定能得到准确回答，RAG 流程中的多个环节都会影响最终质量。
    • RAG 虽能减少幻觉，但不能完全消除，只要有大模型参与就可能产生幻觉。
    • RAG 仍消耗大模型的 Token，最终需大模型处理检索结果生成通顺回答。

未来，将研究分享更多基于深度学习的文档解析方法，以更全面理解 RAG 质量和文档解析质量的关系。同时，前沿模型研发团队力争做到吞吐量、速度和准确度的最佳平衡。

Content generated by AI large model, please carefully verify (powered by aily)

References

通过增强PDF结构识别，革新检索增强生成技术(RAG)

一些初步实验表明，一些开源的PDF解析方法可能无法达到高质量RAG的要求。通过上述分析，我们能够发现：当辅以可以有效提取文档中的结构化信息并将其整合为提示词（Prompt）的PDF解析器时，大语言模型能够作出更准确的响应。这个过程提高了提供给模型的数据质量和相关性，从而提高了模型输出的质量。未来，我们将研究分享更多基于深度学习的文档解析方法，以便更全面地理解RAG质量和文档解析质量之间的关系。

智变时代 / 全面理解机器智能与生成式 AI 加速的新工业革命

系统的内存就是LMM的上下文窗口（Context Window），一次推理运算最多能接受的Tokens数量，现在Google Gemini 1.5 Pro实验版已经把这个数字提升到了一千万，一次性输入二十本书和一个小时的电影；当然这里也存在架构的限制，窗口越大推理越慢，同时模型会失焦，降低推理的准确度。但充满挑战也就意味着机会无穷，前沿模型研发团队都力争做到吞吐量、速度还有准确度的最佳平衡。在模型之外，还有操作系统的其它系统部件，例如I/O-用语音、视觉等模态感知；还有文件系统，让模型具备无限记忆的能力，毕竟模型不是数据库，它的内存是辅助计算的。这一年多以来，大模型应用领域最常用的方法就是RAG（R etrieval Augmented Generation），这是一种检索增强生成的方法，让模型用大家自定义的数据生成结果，这样就能处理无尽的私有数据，把模型当成高效的推理机器来使用。配图2.04：Emerging LLM App StackLLM和LMM是构建软件的强大的新工具，Andrej的这个类比，会让大家找到一些熟知的感觉。其实在去年五月a16z整理过一个指南《Emerging Architectures for LLM Applications》，这是一份详细的LLM应用堆栈的参考架构，里面提到了AI初创公司和大科技公司中最常见的系统、工具和设计模式。上文提到的Perplexity就是RAG的最佳应用，还有面向企业知识库的Glean也一样，以及我自己正在做的面向个人知识库的Maimo，其实所有聚焦到客户流程和需求的具体应用，或多或少都搭建在这个技术栈之上。本文不讨论技术实现方法，我将稍纵即逝的概念串接起来，帮大家整理解题思路！智能代理（AI Agent）

胎教级教程：万字长文带你理解 RAG 全流程

RAG技术无疑是AI领域的一个重要技术，但了解其局限性和正确使用方法同样重要。这一章节，我们来聊聊大家在学习了RAG了之后常见的一些误区。[heading2]随意输入任何文档就能得到准确回答[content]这是最常见的误区，这也是我写这篇文章的一个主要原因之一。很多人在了解了RAG之后，尤其是看过很多营销号的内容之后，感觉像捡到了宝贝。这会给人一种错觉：好像随意的输入任何文档就可以得到准确的回答。上文我们已经讲了RAG的流程，主要包含：离线环节：文档解析，文档切割以及向量化写入向量数据库在线检索环节：用户问题理解、初步检索、重排序以及大模型生成上述的任何一环节而言都会影响RAG的最终质量。尽管RAG的基本概念不难理解，但有效实现RAG系统需要考虑多个复杂因素，如文档预处理、高效索引、相关性排序等。这些都需要专业知识和持续优化[heading2]RAG完全消除了AI的幻觉[content]虽然RAG可以显著减少幻觉，但并不能完全消除。模型仍可能在检索到的信息基础上进行不当的推理或生成错误信息。简单来讲：只要有大模型参与，就有可能产生幻觉[heading2]RAG不消耗大模型的Token了[content]从上面的最后大模型生成结果环节可以看出，最终还是将知识库中检索的结果给到LLM。然后由LLM进行重新整理输出，所以RAG仍然是消耗大模型的Token的请注意：RAG技术并不是简单的将知识库的内容直接检索出来给到用户，而是要经过大模型的处理，从而生成上下文更通顺的回答

Others are asking
rag
RAG（RetrievalAugmented Generation，检索增强生成）是一种结合检索和生成能力的自然语言处理架构。 通用语言模型通过微调可完成常见任务，而更复杂和知识密集型任务可基于语言模型构建系统，访问外部知识源来完成，如 Meta AI 引入的 RAG 方法。RAG 把信息检索组件和文本生成模型结合，可微调，内部知识修改高效，无需重新训练整个模型。它会接受输入并检索相关支撑文档，给出来源，与原始提示词组合后送给文本生成器得到输出，能适应事实变化，让语言模型获取最新信息并生成可靠输出。 大语言模型（LLM）存在一些缺点，如无法记住所有知识尤其是长尾知识、知识易过时且不好更新、输出难以解释和验证、易泄露隐私训练数据、规模大导致训练和运行成本高。而 RAG 具有诸多优点，如数据库存储和更新稳定且无学习风险、数据更新敏捷且不影响原有知识、降低大模型输出出错可能、便于管控用户隐私数据、降低大模型训练成本。 在 RAG 系统开发中存在 12 个主要难题，并已有相应的解决策略。
2025-04-15
rag介绍
RAG（RetrievalAugmented Generation）即检索增强生成，是一种结合检索和生成能力的自然语言处理架构，旨在为大语言模型（LLM）提供额外的、来自外部知识源的信息。 大模型需要 RAG 进行检索优化的原因在于其存在一些缺点： 1. LLM 无法记住所有知识，尤其是长尾知识，受限于训练数据和学习方式，对长尾知识的接受能力不高。 2. LLM 的知识容易过时且不好更新，微调效果不佳且有丢失原有知识的风险。 3. LLM 的输出难以解释和验证，存在内容黑盒、不可控以及受幻觉等问题干扰的情况。 4. LLM 容易泄露隐私训练数据。 5. LLM 的规模大，训练和运行成本高。 RAG 具有以下优点： 1. 数据库对数据的存储和更新稳定，不存在模型学不会的风险。 2. 数据库的数据更新敏捷，可解释且对原有知识无影响。 3. 数据库内容明确、结构化，加上模型的理解能力，能降低大模型输出出错的可能。 4. 知识库存储用户数据，便于管控用户隐私数据，且可控、稳定、准确。 5. 数据库维护可降低大模型的训练成本，新知识存储在数据库即可，无需频繁更新模型。 RAG 的核心流程是根据用户提问，从私有知识中检索到“包含答案的内容”，然后把“包含答案的内容”和用户提问一起放到 prompt（提示词）中，提交给大模型，此时大模型的回答就会充分考虑到“包含答案的内容”。其最常见应用场景是知识问答系统。 一个 RAG 的应用可抽象为 5 个过程： 1. 文档加载：从多种不同来源加载文档，LangChain 提供了 100 多种不同的文档加载器，包括 PDF 在内的非结构化数据、SQL 在内的结构化数据，以及 Python、Java 之类的代码等。 2. 文本分割：文本分割器把 Documents 切分为指定大小的块，称为“文档块”或者“文档片”。 3. 存储：涉及将切分好的文档块进行嵌入转换成向量的形式，并将 Embedding 后的向量数据存储到向量数据库。 4. 检索：通过某种检索算法找到与输入问题相似的嵌入片。 5. 输出：把问题以及检索出来的嵌入片一起提交给 LLM，LLM 会通过问题和检索出来的提示一起来生成更加合理的答案。
2025-04-14
什么是RAG
RAG（RetrievalAugmented Generation）即检索增强生成，是一种结合检索和生成能力的自然语言处理架构，旨在为大语言模型（LLM）提供额外的、来自外部知识源的信息。 大模型存在一些缺点，如无法记住所有知识（尤其是长尾知识）、知识容易过时且不好更新、输出难以解释和验证、容易泄露隐私训练数据、规模大导致训练和运行成本高。而 RAG 具有以下优点： 1. 数据库对数据的存储和更新稳定，不存在模型学不会的风险。 2. 数据库的数据更新敏捷，增删改查可解释，且对原有知识无影响。 3. 数据库内容明确、结构化，加上模型本身的理解能力，能降低大模型输出出错的可能。 4. 知识库存储用户数据，便于管控用户隐私数据，且可控、稳定、准确。 5. 数据库维护可降低大模型的训练成本。 RAG 的核心流程是根据用户提问，从私有知识中检索到“包含答案的内容”，然后把“包含答案的内容”和用户提问一起放到 prompt（提示词）中，提交给大模型，此时大模型的回答就会充分考虑到“包含答案的内容”。其最常见应用场景是知识问答系统。 一个 RAG 的应用可抽象为 5 个过程： 1. 文档加载：从多种不同来源加载文档。 2. 文本分割：把 Documents 切分为指定大小的块。 3. 存储：包括将切分好的文档块进行嵌入转换成向量的形式，以及将 Embedding 后的向量数据存储到向量数据库。 4. 检索：通过某种检索算法找到与输入问题相似的嵌入片。 5. 输出：把问题以及检索出来的嵌入片一起提交给 LLM，LLM 会通过问题和检索出来的提示一起来生成更加合理的答案。
2025-04-14
RAG对话 摘要总结 功能实现
LangChain 和 RAG 的结合具有以下优势： 1. 灵活性：可根据需求和数据源选择不同组件和参数定制 RAG 应用，也能使用自定义组件（需遵循接口规范）。 2. 可扩展性：能利用 LangChain 的云服务部署和运行，无需担忧资源和性能限制，还可借助分布式计算功能加速应用，发挥多个节点并行处理能力。 3. 可视化：通过 LangSmith 可视化工作流程，查看各步骤输入输出及组件性能状态，用于调试和优化，发现并解决潜在问题和瓶颈。 其应用场景多样，包括： 1. 专业问答：构建医疗、法律、金融等专业领域的问答应用，从专业数据源检索信息辅助大模型回答问题，如从医学文献中检索疾病诊治方案回答医疗问题。 2. 文本摘要：构建新闻或论文摘要应用，从多个数据源检索相关文本帮助大模型生成综合摘要，如从多个新闻网站检索同一事件报道生成全面摘要。 3. 文本生成：构建诗歌、故事生成等应用，从不同数据源检索灵感协助大模型生成更有趣和创意的文本，如从诗歌、歌词或小说中检索相关文本生成作品。 此外，还介绍了本地部署资讯问答机器人的实现方式，即基于用户问题从向量数据库检索相关段落并按阈值过滤，让模型参考上下文信息回答，还创建了网页 UI 并进行评测，对不同模型的测试表现进行了对比，得出 GPT4 表现最佳等结论，并总结了使用 Langchain 和 Ollama 技术栈在本地部署资讯问答机器人及相关要点，即上下文数据质量和大模型性能决定 RAG 系统性能上限。
2025-04-11
飞书智能伙伴创建平台 RAG实现
飞书智能伙伴创建平台（英文名：Aily）是飞书团队旗下的企业级 AI 应用开发平台，能提供简单、安全且高效的环境，帮助企业构建和发布 AI 应用，推动业务创新和效率提升，为企业探索大语言模型应用新篇章、迎接智能化未来提供理想选择。 在飞书智能伙伴创建平台上实现 RAG 相关应用有多种方式： 1. 利用飞书的知识库智能问答技术，引入 RAG 技术，通过机器人帮助用户快速检索内容。 2. 可以使用飞书的智能伙伴功能搭建 FAQ 机器人，了解智能助理的原理和使用方法。 3. 本地部署资讯问答机器人，如通过 Langchain + Ollama + RSSHub 实现 RAG，包括导入依赖库、从订阅源获取内容、为文档内容生成向量等步骤。例如使用 feedparse 解析 RSS 订阅源，ollama 跑大模型（使用前需确保服务开启并下载好模型），使用文本向量模型 bgem3（如从 https://huggingface.co/BAAI/bgem3 下载，假设放置在某个路径 /path/to/bgem3，通过函数利用 FAISS 创建高效向量存储）。 使用飞书智能伙伴创建平台的方式： 1. 在 WaytoAGI 飞书知识库首页找到加入飞书群的链接（二维码会定期更新，需在找到最新二维码），点击加入，直接@机器人。 2. 在 WaytoAGI.com 的网站首页，直接输入问题即可得到回答。 创建问答机器人的原因： 1. 知识库内容庞大，新用户难以快速找到所需内容。 2. 传统搜索基于关键词及相关性，存在局限性。 3. 需要用更先进的 RAG 技术解决问题。 4. 在群中提供快速检索信息的方式，使用更便捷。 2024 年 2 月 22 日的会议介绍了 WaytoAGI 社区的成立愿景和目标，以及其在飞书平台上的知识库和社区情况，讨论了相关技术和应用场景，并介绍了企业级 agent 方面的实践。
2025-04-08
RAG是什么
RAG（RetrievalAugmented Generation）即检索增强生成，是一种结合检索和生成能力的自然语言处理架构，旨在为大语言模型（LLM）提供额外的、来自外部知识源的信息。 大模型需要 RAG 进行检索优化的原因在于其存在一些缺点： 1. LLM 无法记住所有知识，尤其是长尾知识，受限于训练数据和学习方式，对长尾知识的接受能力不高。 2. LLM 的知识容易过时且不好更新，微调效果不佳且有丢失原有知识的风险。 3. LLM 的输出难以解释和验证，存在内容黑盒、不可控及受幻觉干扰等问题。 4. LLM 容易泄露隐私训练数据。 5. LLM 的规模大，训练和运行成本高。 而 RAG 具有以下优点： 1. 数据库对数据的存储和更新稳定，不存在模型学不会的风险。 2. 数据库的数据更新敏捷，可解释且对原有知识无影响。 3. 数据库内容明确、结构化，加上模型的理解能力，能降低大模型输出出错的可能。 4. 知识库存储用户数据，便于管控用户隐私数据，且可控、稳定、准确。 5. 数据库维护可降低大模型的训练成本，新知识存储在数据库即可，无需频繁更新模型。 RAG 的核心流程是根据用户提问，从私有知识中检索到“包含答案的内容”，然后把“包含答案的内容”和用户提问一起放到 prompt（提示词）中，提交给大模型，此时大模型的回答就会充分考虑到“包含答案的内容”。其最常见应用场景如知识问答系统，用户提出问题，RAG 模型从大规模的文档集合中检索相关的文档，然后生成回答。 一个 RAG 的应用可抽象为 5 个过程： 1. 文档加载：从多种不同来源加载文档，LangChain 提供了 100 多种不同的文档加载器。 2. 文本分割：文本分割器把 Documents 切分为指定大小的块。 3. 存储：包括将切分好的文档块进行嵌入转换成向量的形式，以及将 Embedding 后的向量数据存储到向量数据库。 4. 检索：通过某种检索算法找到与输入问题相似的嵌入片。 5. 输出：把问题以及检索出来的嵌入片一起提交给 LLM，LLM 会通过问题和检索出来的提示一起来生成更加合理的答案。
2025-04-03
我正在做一个项目“基于chatGPT的剧本杀微信小程序开发”，现在要进行大数据平台后端的开发与搭建，请告诉我怎么入手
以下是基于您的项目“基于 chatGPT 的剧本杀微信小程序开发”进行大数据平台后端开发与搭建的入手步骤： 1. 搭建 OneAPI（https://github.com/songquanpeng/oneapi），其作用是汇聚整合多种大模型接口，方便后续更换使用各种大模型，同时会告知您如何白嫖大模型接口。 2. 搭建 FastGpt（https://fastgpt.in/），这是一个知识库问答系统。您将知识文件放入其中，并接入上面的大模型作为分析知识库的大脑，用于回答问题。如果不想接到微信，仅自己使用，搭建到此即可，它本身也有问答界面。 3. 搭建 chatgptonwechat（https://github.com/zhayujie/chatgptonwechat）以接入微信，并配置 FastGpt 将知识库问答系统接入微信。建议先使用小号以防封禁风险。搭建完成后若想拓展功能，可参考 Yaki.eth 同学的教程（https://waytoagi.feishu.cn/wiki/UADkwZ9B0iAWdTkFJIjcN7EgnAh），其中的 cow 插件具备文件总结、MJ 绘画的能力。 完成上述 3 步即可。
2024-10-16
如果我想做一个基于chatGPT的剧本杀创作的微信小程序开发项目，现在要进行大数据平台的后端开发与搭建，你建议怎么入手
以下是基于您的需求，对于大数据平台后端开发与搭建的建议： 1. 首先搭建 OneAPI（https://github.com/songquanpeng/oneapi），它能够汇聚整合多种大模型接口，方便后续更换使用不同的大模型，同时还会为您介绍如何白嫖大模型接口。 2. 接着搭建 FastGpt（https://fastgpt.in/），这是一个知识库问答系统。您可以将知识文件放入其中，并接入上面的大模型作为分析知识库的大脑，用于回答问题。如果不想接到微信使用，搭建到这里就可以，因为它本身也有问答界面。 3. 然后搭建 chatgptonwechat（https://github.com/zhayujie/chatgptonwechat）接入微信，并配置 FastGpt 将知识库问答系统接入微信。建议先使用小号，以防有封禁风险。搭建完成后若想拓展功能，可参考 Yaki.eth 同学的教程（https://waytoagi.feishu.cn/wiki/UADkwZ9B0iAWdTkFJIjcN7EgnAh），其中的 cow 插件具备文件总结、MJ 绘画的能力。 完成以上 3 步，整个项目就算基本完成。
2024-10-16
如何在midjourney怎么只修改光影效果，不进行大变动
在 Midjourney 中只修改光影效果而不进行大变动，您可以参考以下内容： 了解“Luminous colors”：这指具有强烈亮度和光线效果的色彩，常用于表现光线、光影和明暗效果，营造生动且有吸引力的视觉效果。其作用包括增强画面氛围、突出焦点、表现光影变化。技巧方面，要注意色彩选择与搭配（如选用高饱和度或发光色系，搭配暗调背景）、层叠与渐变（运用湿画法或透明色层叠，模拟光线扩散）、光影处理（明确光源方向，合理布置高光与阴影）。应用于科幻与幻想题材、现代艺术与设计等领域。 对于 Midjourney V6 出图的角色一致性命令“cref”： Midjourney 努力在“cref”起作用时保留面部，无论“cw”的值如何。当“cw”设置为 0 时，要求 Midjourney 只转移面部到新图像中。Midjourney 会始终保留面部标志性属性，若要改变面部，可在其他工具中进行，若不可行，可按以下步骤操作：使用/settings 确保处于；因已开启 Remix，可编辑提示，从提示中删除“cref”和“cw”，修改提示以对面部进行更改。注意对更改满意时，不要再次添加“cref”到提示中，否则“面部交换”将再次发生。 若某些部分看起来怪异或破碎，如角色在背景中放置不正确，可尝试将 stylize增加到 800 1000，也可将“cw”降低到低于 100 的值，视情况而定。
2024-10-10
如何更好地进行提问，使得AI回复的准确性更高？
以下是一些能让您更好地进行提问，从而提高 AI 回复准确性的方法： 1. 明确角色和任务：例如，指定 AI 为某一特定领域的专业人士，并明确其需要完成的具体任务。 2. 清晰阐述任务目标：让 AI 清楚了解您期望得到的结果。 3. 提供详细的上下文和背景信息：包括相关的案例、事实等，帮助 AI 理解问题的来龙去脉。 4. 提出具体且详细的需求和细节性信息：使用清晰、具体的语言，避免模糊不清的表述。 5. 明确限制和不需要的内容：避免 AI 给出不必要或不符合要求的回答。 6. 确定回答的语言风格和形式：如简洁明了、逻辑严谨等。 7. 讲清楚背景和目的：在提问时，梳理清楚背景信息和提问目的，使 AI 更好地理解问题上下文。 8. 学会拆解环节、切分流程：将复杂任务分解成更小、更具体的环节，以便 AI 更精确执行。 9. 了解 AI 的工作原理和限制：有助于更好地设计问题，使其能提供有用答案。 在信息检索和回答生成过程中： 1. 系统会对检索器提供的信息进行评估，筛选出最相关和最可信的内容，并对信息的来源、时效性和相关性进行验证。 2. 消除多个文档或数据源中的冗余内容，防止在生成回答时出现重复或相互矛盾的信息。 3. 分析不同信息片段之间的逻辑和事实关系，构建结构化的知识框架，使信息在语义上更连贯。 4. 将筛选和结构化的信息组织成连贯的上下文环境，包括排序、归类和整合。 5. 必要时进行语义融合，合并意义相近但表达不同的信息片段。 6. 最后，将整合好的上下文信息编码成适合生成器处理的格式，传递给大语言模型，由其生成准确和连贯的答案。
2025-04-04
to B的产品怎么通过RL来提升准确性
通过 RL 提升 to B 产品的准确性可以参考以下方法： 1. 如同 DeepSeek R1 模型，在“冷启动”阶段，利用少量（数千条）人工精选的思维链数据进行初步引导，建立符合人类阅读习惯的推理表达范式。 2. 主要依靠强化学习，在奖励系统的反馈下提升准确性。例如，设置准确率奖励，用于评估 AI 提供的最终答案是否正确，为其提供答案准确度的反馈；同时设置格式奖励，强制结构化输出，让模型把思考过程置于<think></think>标签之间，以便观察推理过程。 3. 但需要注意的是，不同模型在 RL 应用上有所差异。例如，Alpha Zero 的强化学习更加专精棋类，而 DeepSeek R1 更注重学习推理的底层策略，培养通用推理能力，实现跨领域的知识迁移运用和推理解答。 4. 对于 LLMs ，其在自主模式下存在局限性，如无法生成可执行的规划，无法自我验证等。即使通过迭代提示，在验证解决方案方面可能也不比生成解决方案表现得更好。
2025-02-21
怎样提高ai识别题库准确性
要提高 AI 识别题库的准确性，可以从以下几个方面入手： 1. 检索原理方面： 信息筛选与确认：对检索器提供的信息进行评估，筛选出最相关和最可信的内容，同时验证信息的来源、时效性和相关性。 消除冗余：识别并去除多个文档或数据源中的重复信息，避免在生成回答时出现重复或矛盾的内容。 关系映射：分析不同信息片段之间的逻辑和事实关系，如因果、对比、顺序等，构建结构化的知识框架，使信息在语义上更连贯。 上下文构建：将筛选和结构化的信息组织成连贯的上下文环境，包括对信息进行排序、归类和整合。 语义融合：在必要时合并意义相近但表达不同的信息片段，减少语义重复并增强信息表达力。 预备生成阶段：将整合好的上下文信息编码成适合生成器处理的格式，如转化为适合输入到生成模型的向量形式。 2. 知识库方面： 知识库中的文档需要转换成向量形式，以便在数值级别上与问题向量进行比较。使用知识库工具上传文档时，会完成文档的向量化，这依靠 Embedding Model 完成。 知识库检索：根据问题向量，检索器在庞大的向量空间中搜索相关内容，通过相似性计算（如余弦相似性）找出与问题最接近的文档，再根据相似性得分排序并选择得分最高的几个文档，从中抽取具体的信息片段或答案。 3. 信息整合阶段：将检索到的全部信息连同用户问题和系统预设整合成全新的上下文环境，为生成回答提供基础。 RAG（RetrievalAugmented Generation，检索增强生成）是一种结合信息检索和文本生成能力的技术，由检索器和生成器组成。检索器从外部知识中快速找到与问题相关的信息，生成器利用这些信息制作精确和连贯的答案，适合处理需要广泛知识的任务，如问答系统。
2025-01-10
怎样提高ai识别文档准确性
以下是一些提高 AI 识别文档准确性的方法： 1. 对于过期的文档，在标题里加上【已废弃】【已过期】等字眼，这样在召回排序过程中会被过滤掉，避免影响答案的准确性。 2. 现阶段尽量使用普通文本进行描述，避免过多表格、图片等内容。当前文档里插入的表格内容虽然能被 AI 识别，但识别效果还在提升中，图片等内容还不支持识别。随着技术发展，这些局限会逐渐消除。 3. 文档的标题内容需要跟正文有强相关性，因为召回排序的逻辑里文档总标题在相似度计算中占有较高权重。 4. 不同的知识点尽量分段书写、合理控制段落长度。不同的主题通过文档内的子标题进行区分，子标题下正文里每个段落最好对应一个明确的知识点，每个段落尽量不超过 500 字，避免段落过长在文档分割时导致主题打散。 5. 对于经常被问到的内容，可以写成问答对（FAQ）的格式，当用户提出相关问题时，包含该问答对的片段在召回排序里会更靠前，给出的答案也更准确。
2025-01-10
推荐关于每日新闻、财经金融类新闻的AI网站或公众号、播客，需要有深度、时效性强、准确性高，避免八卦网站、小道消息网站和单纯转发其他文章的网站
以下是为您推荐的关于每日新闻、财经金融类新闻的相关资源： AI 新闻写作工具： Copy.ai：功能强大，提供丰富的新闻写作模板和功能，可快速生成新闻标题、摘要、正文等内容，节省写作时间并提高效率。 Writesonic：专注于写作，提供新闻稿件生成、标题生成、摘要提取等功能，智能算法可根据用户信息生成高质量新闻内容，适合新闻写作和编辑人员。 Jasper AI：人工智能写作助手，虽主打博客和营销文案，也可用于生成新闻类内容，写作质量较高，支持多种语言。 金融服务相关： 东方财富网投资分析工具：利用 AI 技术分析金融市场数据，为投资者提供投资建议和决策支持，例如根据股票历史走势和市场趋势预测未来走势。 其他领域的 AI 应用： 图虫网：AI 摄影作品销售平台，利用图像识别、数据分析技术，为摄影爱好者提供作品销售渠道。 网易云音乐音乐人平台：AI 音乐作品发布平台，利用音频处理、数据分析技术，为音乐创作者提供作品发布、推广、版权管理等服务。 好好住 APP：AI 家居用品推荐平台，利用数据分析、自然语言处理技术，根据用户需求推荐家居用品。 需要注意的是，以上内容由 AI 大模型生成，请仔细甄别。同时，生成式 AI 还能在金融服务业中帮助改进内部流程，如在预测方面编写公式和查询、发现模式并建议输入，在报告方面自动创建内容并调整，在会计和税务方面综合总结并提供可能答案，在采购和应付账款方面自动生成和调整相关文件及提醒。
2024-11-18
我需要一个能用于命名实体识别的prompt,针对具体的抽取事例为我提供一个这样的模板，要保证抽取结果的准确性。
以下是一个用于命名实体识别的 Prompt 模板示例： “请从以下文本中准确识别出所有的命名实体，并按照人物、地点、组织、时间等类别进行分类：” 通过这样明确的指令，能够引导模型更有针对性地进行命名实体的抽取，从而提高抽取结果的准确性。
2024-09-08
2025年人工智能大模型的技术提升有哪些，是参数？推理能力？还是语料
2025 年人工智能大模型的技术提升可能体现在以下几个方面： 1. 视频生成能力：如 2024 年推出的多个先进的 AI 模型能够从文本输入生成高质量视频，相比 2023 年有显著进步。 2. 模型规模与性能：更小的模型能驱动更强的性能，如 2022 年最小能在 MMLU 上得分高于 60%的模型是具有 5400 亿参数的 PaLM，到 2024 年，参数仅 38 亿的微软 Phi3mini 也能达到相同阈值。 3. 推理能力：尽管加入了如思维链推理等机制显著提升了大语言模型的性能，但在一些需要逻辑推理的问题上，如算术和规划，尤其在超出训练范围的实例上，这些系统仍存在问题。 4. AI 代理：在短时间预算设置下，顶级 AI 系统得分高于人类专家，但随着时间预算增加，人类表现会超过 AI。 5. 算法变革：如 DeepSeek 的出现标志着算力效率拐点显现，其通过优化算法架构显著提升了算力利用效率，同时 2025 年发布的大模型呈现低参数量特征，为本地化部署到 AI 终端运行提供了可能，其训练过程聚焦于强化学习，提升了模型的推理能力。
2025-04-14
知识表示与推理发展过程中有哪些里程碑式的技术
在知识表示与推理的发展过程中，具有以下里程碑式的技术： 1. 知识图谱： 于 2012 年 5 月 17 日由 Google 正式提出，旨在提高搜索引擎能力，增强用户搜索质量和体验。 关键技术包括知识抽取（实体抽取、关系抽取、属性抽取）、知识表示（属性图、三元组）、知识融合（实体对齐、知识加工、本体构建、质量评估、知识更新）、知识推理。 2. Symbolic Agent： 时间：20 世纪 50 70 年代。 特点：基于逻辑和规则系统，使用符号来表示知识，通过符号操作进行推理。 技术：基于规则的系统、专家系统，如 MYCIN、XCON 等。 优点：明确的推理过程，可解释性强。 缺点：知识获取困难，缺乏常识，难以处理模糊性。
2025-03-27
以DeepSeek R1为代表的推理模型，与此前模型（如 ChatGPT-4、Claude 3.5 sonnet、豆包、通义等）的差异点主要在于
以 DeepSeek R1 为代表的推理模型与此前模型（如 ChatGPT4、Claude 3.5 sonnet、豆包、通义等）的差异点主要在于： 1. 技术路线：DeepSeek R1 与 OpenAI 现在最先进的模型 o1、o3 一样，属于基于强化学习 RL 的推理模型。 2. 思考方式：在回答用户问题前，R1 会先进行“自问自答”式的推理思考，模拟人类的深度思考，从用户初始问题出发，唤醒所需的推理逻辑与知识，进行多步推导，提升最终回答的质量。 3. 训练方式：在其他模型还在接受“填鸭式教育”时，DeepSeek R1 已率先进入“自学成才”的新阶段。 4. 模型制作：R1 是原生通过强化学习训练出的模型，而蒸馏模型是基于数据微调出来的，基础模型能力强，蒸馏微调模型能力也会强。此外，DeepSeek R1 还能反过来蒸馏数据微调其他模型，形成互相帮助的局面。 5. 与 Claude 3.7 Sonnet 相比，Claude 3.7 Sonnet 在任务指令跟随、通用推理、多模态能力和自主编程方面表现出色，扩展思考模式在数学和科学领域带来显著提升，在某些方面与 DeepSeek R1 各有优劣。
2025-03-19
推理类模型，以deepseek为代表，与此前的聊天型ai，比如chatgpt3.5，有什么差异
推理类模型如 DeepSeek 与聊天型 AI 如 ChatGPT3.5 存在以下差异： 1. 内部机制：对于大语言模型，输入的话会被表示为高维时间序列，模型根据输入求解并表示为回答。在大模型内部，是根据“最大化效用”或“最小化损失”计算，其回答具有逻辑性，像有自己的思考。 2. 多模态能力：ChatGPT3.5 是纯语言模型，新一代 GPT 将是多模态模型，能把感官数据与思维时间序列一起作为状态，并装载在人形机器人中，不仅能对话，还能根据看到、听到的事进行判断，甚至想象画面。 3. 超越人类的可能性：有人假设人按最大化“快乐函数”行动，只要“效用函数”足够复杂，AI 可完全定义人，甚至超越人类。如在“短期快乐”与“长期快乐”的取舍上，人类难以找到最优点，而 AI 可通过硬件算力和强化学习算法实现，像 AlphaGo 击败世界冠军，在复杂任务上超越人类。 4. 应用领域：文字类的总结、润色、创意是大语言模型 AI 的舒适区，如从 ChatGPT3.5 问世到 ChatGPT4 提升，再到 Claude 3.5 sonnet 在文学创作领域取得成绩，只要有足够信息输入和合理提示词引导，文案编写可水到渠成。
2025-03-18
一句话阐述推理类模型的原理
推理类模型的原理主要包括以下方面： OpenAI 的推理模型通过强化学习进行训练，以执行复杂推理。此类模型在回答前会思考，能产生长链的思维过程。通过训练，它们学会优化思考过程、尝试不同策略并识别错误，从而遵循特定指南和模型政策，提供更有用的回答，避免产生不安全或不适当的内容。 例如 OpenAI o1 这样的推理模型基于链式思维，逐步推理问题的每个步骤来得到答案。 还有一些概率预测的快速反应模型，通过大量数据训练来快速预测可能的答案。
2025-03-18
推理模型的技术原理
推理模型是一种新的范式，专注于解决复杂、多步骤的问题。其技术原理主要包括以下方面： 1. 思考输入意图：通过对输入内容的深入理解，明确问题的核心和需求。 2. 逐步提供答案：不像传统模型一次性给出结果，而是分步骤进行推理和回答。 3. 擅长领域：在解谜和高级数学等具有挑战性的任务中表现出色。 4. 与传统模型的区别：传统模型可能更倾向于直接给出结果，而推理模型会通过逐步思考来提供答案。 5. 成本和易错性：推理模型成本高昂且容易出错，适用场景有限。 6. 模型变体：如 DeepSeek 推出的多种变体（如 R1Zero 和 R1Distill）展示了不同的训练策略和性能表现。 7. 思考过程：类似于人类的慢思考过程，结合行业特点给出重要事项和先后顺序。 8. 运算原理：快思考是概率预测，脱口而出但不一定对；慢思考在概率预测基础上做二层逻辑，即链式思维，展开问题找多条路径并互相验证。 9. 适用场景：指令遵循领域 instruct 模型效果好，推理和创造性问题适合用慢思考的推理模型。
2025-03-01