单轮对话与多轮对话调用

要让 AI 识别对话并生成结构化数据存储到软件系统里，可以参考以下方法： 1. 基于结构化数据来 RAG：如果原始数据本身就是结构化、标签化的，不必将这部分数据做向量化。结构化数据的特点是特征和属性明确，可用有限标签集描述，能用标准查询语言检索。以餐饮生活助手为例，流程包括用户提问、LLM 提取核心信息并形成标准查询、查询结构化数据、LLM 整合回复。 2. 利用 Coze 平台设计 AI 机器人：创建好 Bot 后，从“个人空间”入口找到机器人，进行“编排”设计。Coze 平台常用的概念和功能包括提示词（设定 Bot 身份和目标）、插件（通过 API 连接集成服务）、工作流（设计多步骤任务）、触发器（创建定时任务）、记忆库（保留对话细节，支持外部知识库）、变量（保存用户个人信息）、数据库（存储和管理结构化数据）、长期记忆（总结聊天对话内容）。设计 Bot 时要先确定目的，比如“AI 前线”Bot 的目的是作为 AI 学习助手，帮助职场专业人士提升在人工智能领域的知识和技能，并提供高效站内信息检索服务。 注：Coze 官方使用指南见链接：https://www.coze.cn/docs/guides/welcome ，遇到疑问也可查阅该指南。

通过飞书机器人与 Coze 搭建智能体进行对话，实现跨平台的稍后读收集与智能阅读计划推荐，具体步骤如下： 1. 前期准备： 设计 AI 稍后读助手的方案思路，包括简化“收集”（实现跨平台收集功能，支持电脑（web 端）、安卓、iOS 多端操作，输入 URL 完成收集，借鉴微信文件传输助手通过聊天窗口输入）、自动化“整理入库”（自动整理每条内容的关键信息，支持跨平台查看）、智能“选择”推荐（根据收藏记录和阅读兴趣生成阅读计划）。 2. 逐步搭建 AI 智能体： 经过配置得到两个可用工作流（整理入库、选择内容），将其编排为完整智能体。 配置过程包括创建 Bot、填写 Bot 介绍、切换模型为“通义千问”、把工作流添加到 Bot 中、新增变量{{app_token}}、添加外层 bot 提示词，完成后可在「预览与调试」窗口与智能体对话并使用全部功能。

以下是豆包、DeepSeek、ChatGPT 在解决用户整理对话需求方面的功能： ChatGPT： 1. 内容生成：可以生成文章、故事、诗歌、歌词等内容。 2. 聊天机器人：作为聊天机器人的后端，提供自然的对话体验。 3. 问答系统：为用户提供准确的答案。 4. 文本摘要：生成文本的摘要或概述。 5. 机器翻译：在这方面有不错的表现。 6. 群聊总结：能够对群聊内容进行总结。 7. 代码生成：生成代码片段，帮助开发者解决编程问题。 8. 教育：帮助学生解答问题或提供学习材料。 9. 浏览器插件：如 webpilot 。 10. PDF 对话：通过相关网站实现与 PDF 的对话。 11. PPT 生成：协助高效制作 PPT 。 12. 音视频提取总结：通过特定网站进行总结。 13. 播客总结：通过特定网站完成总结。 14. 生成脑图：通过相关网站生成。 关于豆包和 DeepSeek 在解决用户整理对话需求方面的功能，上述内容中未提及。

以下是与 Deepseek 高效对话的五个黄金法则： 1. 像教实习生：别指望它读心术，要给明确“操作手册”。 亮身份（就像相亲自我介绍）：说清角色（新人/专家）、处境（紧急任务/长期规划）、特殊需求（老板的喜好/公司制度）。例如，错误示范是“帮我写个方案”，正确示范是“我是刚入职的行政专员，要给 50 人团队策划元旦团建，预算人均 200 元”。 派任务（像教小朋友做家务）：明确要做什么、范围多大、重点在哪、要几个结果。例如，错误示范是“分析下市场”，正确示范是“请对比蜜雪冰城和茶百道最近 3 个月的新品策略，找出年轻人最爱的 3 个创新点”。 立规矩（像点菜提要求）：包括时间限制、资源条件、雷区预警、特殊偏好。例如，请 AI 当健身教练，正确示范是“我是 996 上班族，每天最多锻炼 30 分钟，家里只有瑜伽垫，帮我制定减脂计划，不要深蹲伤膝盖”。 定格式（像下单选规格）：根据需求选择文档类（PPT 页数、报告部分）、数据类（表格或图表）、创意类（小红书风格或知乎体）等格式。例如，做会议纪要，正确示范是“用表格呈现，左边列讨论主题，右边分决策事项/负责人/截止时间三栏，最后用红色标出待确认事项”。 2. 像拼乐高：复杂任务拆成小模块，逐个击破。 3. 像打乒乓球：有来有往多回合，好答案都是改出来的。 4. 下次和 AI 对话前，先花 30 秒填这个 checklist： 我说清自己身份了吗？ 任务目标够具体吗？ 特殊要求列全了吗？ 要什么格式交代了吗？ 留好修改的余地了吗？ 5. 一个提示词，让 DeepSeek 的能力更上一层楼： 效果对比：用 Coze 做了个小测试，大家可以对比看看。 如何使用： 搜索 www.deepseek.com，点击“开始对话”。 将装有提示词的代码发给 Deepseek。 认真阅读开场白之后，正式开始对话。 设计思路： 将 Agent 封装成 Prompt，将 Prompt 储存在文件，保证最低成本的人人可用的同时，减轻自己的调试负担。 通过提示词文件，让 DeepSeek 实现同时使用联网功能和深度思考功能。 在模型默认能力的基础上优化输出质量，并通过思考减轻 AI 味，增加可读性。 照猫画虎参考大模型的 temperature 设计了阈值系统，但是可能形式大于实质，之后根据反馈可能会修改。 用 XML 来进行更为规范的设定，而不是用 Lisp（对我来说有难度）和 Markdown（运行下来似乎不是很稳定）。 完整提示词。 特别鸣谢：李继刚的【思考的七把武器】在前期为提供了很多思考方向；Thinking Claude 是项目最喜欢使用的 Claude 提示词，也是设计 HiDeepSeek 的灵感来源；Claude 3.5 Sonnet 是最得力的助手。 掌握这套方法，您会突然发现：原来 AI 这么听话！从此刻开始，告别无效对话，让您的每个问题都换来实实在在的干货。

要与多个 PDF 进行对话，可以考虑使用以下方法和工具： 1. ChatDOC：这是一个 AI 文档阅读助手，能够在数秒内总结长文档、解释复杂概念和查找关键信息。它具有以下优势： 可靠性和准确性高，在所有 ChatPDF 类产品中居首。 精通表格理解，选择表格或文本可立即获取详细信息。 支持多文档对话，不受每个文档页数限制。 每个回答均可溯源至原文，有原文档中的直接引用支持。 支持多种文档类型，包括扫描件、ePub、HTML 和 docx 格式文档。 2. AskYourPDF Research Assistant：可以与多个文件聊天，生成带有引文的文章，分析和生成论文的参考文献，创建文件的知识库并与之交互等。 在进行互动式问答时，需要注意以下几点： 1. 对于更新的数据或最新出版的书籍、报告和文件，ChatGPT 的知识库可能无法提供答案。 2. 如果有现成的 PDF，建议通过 CHATDOC 网站进行互动式问答。 3. 提问时应遵循一定的模板，例如： 输入信息：向 ChatGPT 提供要查询的书籍、报告或文件的详细信息，包括书籍的书名、作者、出版日期、出版社，报告的时间、主题，文件的名称等，提供越详细越能获得准确答案。 提出问题：例如询问书籍中提到的某些方面、原则、方法，报告中行业的增长趋势，对报告或书籍的概括、主要观点等。

以下工具可以实现和多个 PDF 或 Word 文档对话： 1. ChatDOC（海外官网：chatdoc.com）：是一个 AI 文档阅读助手，能在数秒内总结长文档、解释复杂概念和查找关键信息。在可靠性和准确性方面，它在所有 ChatPDF 类产品中居首。其优势包括精通表格理解、多文档对话、每个回答均可溯源至原文，还支持多种文档类型，如扫描件、ePub、HTML 和 docx 格式文档。 2. IncarnaMind：是一个可以使用大型语言模型（如 GPT）与个人文档（PDF、TXT）进行聊天的工具。它通过滑动窗口分块机制和检索器，能高效查询细粒度和粗粒度信息，支持多文档查询和稳定的解析，还具有自适应分块、多文档对话问答、文件兼容性和模型兼容性等特点。

聊天模型通过一串聊天对话作为输入，并返回一个模型生成的消息作为输出。尽管聊天格式的设计是为了多轮对话更简单，但它对于没有任何对话的单轮任务同样有用（例如以前由 textdavinci003 等指令遵循模型提供的任务）。 API 调用的例子中，messages 参数是主要的输入，必须是一个消息对象的数组，每个对象拥有一个 role（“system”“user”或“assistant”）和 content（消息的内容）。会话可以少至 1 条消息或者有许多条。通常，会话首先使用系统消息（“system”）格式化，然后交替使用用户消息（“user”）和助手消息（“assistant”）。系统消息有助于设定助手的行为，用户消息帮助指示助手，助手消息用于存储之前的响应。当用户的指令是关于之前的消息时，包含聊天历史记录将有所帮助。如果会话包含的 token 超出了模型的限制，则需要用一些方法去缩减会话。 此外，还存在一些与百炼相关的 Q&A： 如何调用工作流？在提示词写了让大模型调用 xxx 工作流，但实际总是不调用。文档里也没有写调用方式。 如何把开始节点的输入参数直接接入到代码节点中进行处理？ 千问模型基本不能处理标点符号，在提示词中各种要求句尾不要有句号，可仍旧有。甚至在工作流中用代码去掉后，回到应用中又给加上了标点符号。同样的提示词，放在扣子中就可以去掉标点符号。 为什么同样的问题，给出的答案区别这么大？接的就是同一个应用，这个问题很早就预测过了，同一个模型。 无论 prompt 怎么变，模型生成完内容后，自动被“不生成任何的标点符号”所替换。这个情况在 max。 COW 调用百炼应用如何支持多轮对话么？

利用多轮对话做 Agent 问答可以从以下几个方面考虑： 1. 从产品角度： 思考用户为何想使用，例如通过探索历史新闻让用户更好地了解自身背景、成长环境，从中学习成长并获得有趣互动体验。 明确 Agent 是谁及其性格，比如设定为知识渊博、温暖亲切、富有同情心的历史新闻探索向导，负责新闻解析和历史背景分析。 确定提供新闻的时间，如用户出生那天及那一周的重要新闻事件。 规划除新闻外的能力，如提供历史背景分析、相关画作、生活方式分析，甚至加入神秘主义者和心理学家角色回应用户。 设计多 Agent 出场顺序和使用方式，通过多角色互动设计，让用户体验多层次对话，从基本问答到深度讨论，逐步引导用户探索。 2. 基于 LLM 的大脑模块： 自然语言交互方面：LLM 应具备多轮对话能力，能理解自然语言并生成连贯、上下文相关的回复，还应具备出色的生成能力和意图理解能力，但要注意模糊指令可能带来的挑战。 知识方面：包括语言知识（词法、句法、语义学和语用学）、常识知识（如药和伞的用途）、专业领域知识（如编程、医学），但要注意知识可能过时或错误，需通过重新训练或编辑 LLM 解决。 记忆方面：具备记忆机制，存储过去的观察、思考和行动，通过提高输入长度限制、记忆总结、用向量或数据结构压缩记忆等策略提升记忆，Agent 能检索记忆以访问相关信息，包括自动检索和交互式记忆对象。 推理和规划方面：基于证据和逻辑进行推理，这对解决问题和决策至关重要。

多轮对话的实现方式如下： 1. 核心思路是让 AI 和您对目标的理解达成共识，保持一致，然后再开始创作，这样能增加创作的可控性。比如通过对生成图像的理解诱导和迭代来实现。 2. 有效的部分包括： 约束的弹性，在探索阶段给 AI 一定自由空间，而 prompt 一般是强约束的，更适合确定性的目标或者用于总结阶段。 情绪，情绪化能局部提升 AI 效能。 共识，您的理解和 AI 的理解要高度一致，在高共识性的背景下，调整和控制会更有效。 3. 注意事项： 如果经历很多轮的对话，可能会导致此次对话超过模型的 token 限制，ChatGPT 会遗忘之前的内容。建议当经历多轮对话后，可以新建一个聊天窗口，把完整的代码和需求背景输入给 ChatGPT，重新开启新的提问。 在自然的人类语言交流中，多轮对话常常伴随着指代问题的产生。为了提升对话系统的性能和用户体验，需要开发提示词来解决多轮对话中的指代消解问题，并确保模型能够在连续的交流中提供准确、连贯的回答。由于“指代消解”需要多轮对话来完成，单次交互无法达成，所以需要将测试形式进行转换，先解决“指代消解”的问题，然后再进行下一轮答复。

以下是优化 AI 对话脚本和逻辑（多轮对话测试提升 AI 上下文理解）的方法： 1. 样例驱动的渐进式引导法 评估样例，尝试提炼模板：独自产出高质量样例较难，可借助擅长扮演专家角色的 AI 改进初始正向样例，如使用 Claude 3.5 进行对话，输入初始指令，通过其回复侧面印证对样例的理解与建议。 多轮反馈，直至达到预期：AI 可能犯错输出要求外内容，需多轮对话引导，使其不断修正理解，直至达成共识。 用例测试，看看 AI 是否真正理解：找 13 个用例，让 AI 根据模板生成知识卡片，根据结果验证是否符合预期，不符合则继续探讨调整。用例测试和多轮反馈步骤灵活，可根据需要自由反馈调整。 2. Coze 全方位入门剖析 标准流程创建 AI Bot（进阶推荐） 为 Bot 添加技能：国内版暂时只支持使用“云雀大模型”作为对话引擎，可根据业务需求决定上下文轮数。在 Bot 编排页面的“技能”区域配置所需技能，可选择自动优化插件或自定义添加插件。还可根据需求配置知识库、数据库、工作流等操作，参考相关介绍和实战操作或官方文档学习。 测试 Bot：在“预览与调试”区域测试 Bot 是否按预期工作，可清除对话记录开始新测试，确保能理解用户输入并给出正确回应。

在解决模型微调中多轮对话容易受到上轮对话影响的问题时： 对于多轮对话，现实中常伴随指代问题，如使用“它”“他们”“我们”等代词。若仅依据原始提问检索知识片段，可能导致结果不精确或无法检索到信息。同时，对模型回复内容的限制可能影响多轮对话流畅性甚至中断。 为提升对话系统性能和用户体验，需开发提示词解决多轮对话中的指代消解问题，确保模型能在连续交流中提供准确连贯回答。但由于“指代消解”需多轮对话完成，单次交互无法达成，所以要转换测试形式，先解决“指代消解”问题再进行下一轮答复。 首先准备指代消解所需提示词，这里使用的“指代消解”提示词是用 CoT 写出的思维链，列举不同推理情景，让模型适应并推理出需消解的代词，再根据结果重新组织问题。 接着复现指代消解步骤，如进行第一轮对话，提出问题“尼罗河是什么？”，系统召回相关知识片段并回复，然后开始指代消解。 另外，聊天模型通过一串聊天对话输入并返回生成消息输出。聊天格式虽为多轮对话设计，但对单轮任务也有用。会话通过 messages 参数输入，包含不同角色和内容的消息对象数组。通常会话先有系统消息设定助手行为，再交替使用用户和助手消息。当指令涉及之前消息时，包含聊天历史记录有帮助，若超出模型限制需缩减会话。

在多轮对话训练中，让模型掌握情感需求可以通过以下几种方式： 1. 利用相关数据集进行训练，例如： Guanaco：地址为，是一个使用 SelfInstruct 的主要包含中日英德的多语言指令微调数据集。 chatgptcorpus：地址为，开源了由 ChatGPT3.5 生成的 300 万自问自答数据，包括多个领域，可用于训练大模型。 SmileConv：地址为，数据集通过 ChatGPT 改写真实的心理互助 QA 为多轮的心理健康支持多轮对话，含有 56k 个多轮对话，其对话主题、词汇和篇章语义更加丰富多样，更符合长程多轮对话的应用场景。 2. 在创建提示时采用结构化模式，为模型提供一些情感需求的示例，如： |输入|输出| ||| |一部制作精良且有趣的电影|积极的| |10 分钟后我睡着了|消极的| |电影还行|中性的| 然后单击页面右侧的提交按钮。该模型现在可为输入文本提供情绪。还可以保存新设计的提示。 3. 在多轮次对话中，定期总结关键信息，重申对话的目标和指令，有助于模型刷新记忆，确保准确把握对话的进展和要点。 4. 进行意图识别和分类，特别关注在单一模型或情境中处理多个小逻辑分支的情况。例如在客户服务场景中，快速确定用户提出咨询、投诉、建议等多种类型请求的意图，并分类到相应处理流程中。

我调用的是抖音集团的云雀大模型。在一些项目中，还会涉及到其他大模型的调用，比如在 COW 项目中可直接调用千问的某一模型，需更改 key 和 model 等操作，且要实名认证。此外，军师联盟 BOT 工作流中会调用月之暗面 KIMI、豆包、Minimax、通义千问和智谱清言这五个大模型。

Coze 可以调用用户自己部署的大模型。例如： 在 Coze 上搭建工作流框架时，可通过“个人空间工作流创建工作流”进行操作，在编辑面板中拖入对应的大模型节点来实现各项文本内容的生成。 当在 COW 中直接调用千问的某一个大模型时，需要更改 key 和 model 等配置。获取 key 可参考相关的视频和图文教程，同时需要完成实名认证，否则可能出现报错。 在使用 Coze 做智能报表助手的过程中，也涉及到对大模型的运用，如将用户问题转换为 SQL 等。

要在本地部署的 DeepSeek 上调用知识库，您可以参考以下步骤： 在 Bot 内使用知识库： 1. 登录。 2. 在左侧导航栏的工作区区域，选择进入指定团队。 3. 在 Bots 页面，选择指定 Bot 并进入 Bot 详情页。 4. 在 Bot 编排页面的知识库区域，单击加号图标，添加指定的知识库。 5. （可选）添加知识库后，可以在自动调用下拉界面内，调整知识库的配置项。配置项包括最大召回数量、最小匹配度和调用方式等。 6. （可选）在预览与调试区域调试 Bot 能力时，扩展运行完毕的内容可以查看知识库命中并召回的分片内容。 在工作流内使用 Knowledge 节点： 1. 登录。 2. 在左侧导航栏的工作区区域，选择进入指定团队。 3. 在页面顶部进入工作流页面，并打开指定的工作流。 4. 在左侧基础节点列表内，选择添加 Knowledge 节点。 此外，关于 DeepSeek 的提示词相关内容： 效果对比：用 Coze 做了个小测试，大家可以对比看看，参考 。 如何使用： Step1：搜索 www.deepseek.com，点击“开始对话”。 Step2：将装有提示词的代码发给 Deepseek。 Step3：认真阅读开场白之后，正式开始对话。 设计思路： 1. 将 Agent 封装成 Prompt，将 Prompt 储存在文件，保证最低成本的人人可用的同时，减轻自己的调试负担。 2. 通过提示词文件，让 DeepSeek 实现：同时使用联网功能和深度思考功能。 3. 在模型默认能力的基础上优化输出质量，并通过思考减轻 AI 味，增加可读性。 4. 照猫画虎参考大模型的 temperature 设计了阈值系统，但是可能形式大于实质，之后根据反馈可能会修改。 5. 用 XML 来进行更为规范的设定，而不是用 Lisp（对您来说有难度）和 Markdown（运行下来似乎不是很稳定）。 DeepSeekR1 提示词系统的核心原理认知包括： AI 特性定位：多模态理解，支持文本/代码/数学公式混合输入；动态上下文，对话式连续记忆（约 4K tokens 上下文窗口）；任务适应性，可切换创意生成/逻辑推理/数据分析模式。 系统响应机制：采用意图识别+内容生成双通道理，自动检测 prompt 中的任务类型/输出格式/知识范围，对位置权重（开头/结尾）、符号强调敏感。 基础指令框架方面，如果不知道如何表达，还是可以套用框架指令，包括四要素模板和格式控制语法。格式控制语法中，强制结构使用```包裹格式要求，占位符标记用{{}}标注需填充内容，优先级符号>表示关键要求，!表示禁止项。 进阶控制技巧包括思维链引导和知识库调用。思维链引导中的分步标记法为请逐步思考：1.问题分析→2.方案设计→3.风险评估；苏格拉底式追问为在得出最终结论前，请先列举三个可能存在的认知偏差。知识库调用包括领域限定指令和文献引用模式。

以下是关于 DeepSeek 的相关信息： 网址：https://www.deepseek.com/zh 。国内能访问，网页登录方便，目前完全免费。 使用方法： 搜索 www.deepseek.com ，点击“开始对话”。 将装有提示词的代码发给 DeepSeek 。 认真阅读开场白之后，正式开始对话。 特点： 很方便，只需要获得游戏代码即可。 对于新手较为推荐。 相关工具：HiDeepSeek 能让 DeepSeek 的能力更上一层楼，它能让 AI 像人类交流时那样展示思考过程，不是要让 AI 变得更聪明，而是要让其思考过程更易理解。使用时可参考以下步骤： 用 Coze 做小测试进行效果对比。 设计思路包括将 Agent 封装成 Prompt 并储存在文件、通过提示词文件让 DeepSeek 实现联网和深度思考功能、优化输出质量等。 完整提示词版本为 v 1.3 。 特别鸣谢李继刚和 Thinking Claude 等为相关设计提供帮助和灵感。

DeepSeekR1 的 API 调用步骤如下： 1. 首先到 DeepSeek 的官网（https://www.deepseek.com/），进入右上角的 API 开放平台。 2. 早期 DeepSeek 有赠送额度，如果没有赠送的余额，可以选择去充值。支持美元和人民币两种结算方式，以及各种个性化的充值方式。 3. 创建一个 API key，注意，API key 只会出现一次，请及时保存下来。 4. 接下来，下载 Cursor（https://www.cursor.com/），或者 VSCode（https://code.visualstudio.com/），只要代码编辑器可以下载插件即可。 5. 以 Cursor 作为代码编辑器为例，下载安装后，在插件页面搜索并安装 Roocline。 6. 安装完后，打开三角箭头，就可以看到 RooCline，选中并点击齿轮，进入设置，依次设置： API Provider：选择 DeepSeek。 API Key：填入已创建的 key。 模型：选择 DeepSeekreasoner。 语言偏好设置。 小贴士：记得把 HighRisk 选项都打开，这样 AI 才能帮您自动生成文件。 7. 最后做完所有不要忘记点击 Done 保存修改。 8. 在聊天框输入产品需求，输入需求后点击星星优化提示词，最终得到想要的结果。

在 Coze 平台上，DeepSeek 是可以调用的。以下是相关的具体信息： 效果对比：用 Coze 做了个小测试，大家可以对比看看，相关视频 如何使用： 搜索 www.deepseek.com，点击“开始对话” 将装有提示词的代码发给 Deepseek 认真阅读开场白之后，正式开始对话 设计思路： 将 Agent 封装成 Prompt，将 Prompt 储存在文件，保证最低成本的人人可用的同时，减轻自己的调试负担 通过提示词文件，让 DeepSeek 实现同时使用联网功能和深度思考功能 在模型默认能力的基础上优化输出质量，并通过思考减轻 AI 味，增加可读性 照猫画虎参考大模型的 temperature 设计了阈值系统，但是可能形式大于实质，之后根据反馈可能会修改 用 XML 来进行更为规范的设定，而不是用 Lisp（对您来说有难度）和 Markdown（运行下来似乎不是很稳定） 完整提示词：v 1.3 特别鸣谢：李继刚的【思考的七把武器】在前期为提供了很多思考方向；Thinking Claude 这个项目是现在最喜欢使用的 Claude 提示词，也是设计 HiDeepSeek 的灵感来源；Claude 3.5 Sonnet 是最得力的助手。