Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

如何利用多轮对话做Agent问答

Answer

利用多轮对话做 Agent 问答可以从以下几个方面考虑：

  1. 从产品角度：
    • 思考用户为何想使用，例如通过探索历史新闻让用户更好地了解自身背景、成长环境，从中学习成长并获得有趣互动体验。
    • 明确 Agent 是谁及其性格，比如设定为知识渊博、温暖亲切、富有同情心的历史新闻探索向导，负责新闻解析和历史背景分析。
    • 确定提供新闻的时间，如用户出生那天及那一周的重要新闻事件。
    • 规划除新闻外的能力，如提供历史背景分析、相关画作、生活方式分析，甚至加入神秘主义者和心理学家角色回应用户。
    • 设计多 Agent 出场顺序和使用方式，通过多角色互动设计，让用户体验多层次对话，从基本问答到深度讨论，逐步引导用户探索。
  2. 基于 LLM 的大脑模块：
    • 自然语言交互方面：LLM 应具备多轮对话能力，能理解自然语言并生成连贯、上下文相关的回复，还应具备出色的生成能力和意图理解能力，但要注意模糊指令可能带来的挑战。
    • 知识方面：包括语言知识（词法、句法、语义学和语用学）、常识知识（如药和伞的用途）、专业领域知识（如编程、医学），但要注意知识可能过时或错误，需通过重新训练或编辑 LLM 解决。
    • 记忆方面：具备记忆机制，存储过去的观察、思考和行动，通过提高输入长度限制、记忆总结、用向量或数据结构压缩记忆等策略提升记忆，Agent 能检索记忆以访问相关信息，包括自动检索和交互式记忆对象。
    • 推理和规划方面：基于证据和逻辑进行推理，这对解决问题和决策至关重要。
Content generated by AI large model, please carefully verify (powered by aily)

References

Roger：从产品角度思考 Agent 设计

作为一个产品经理，我习惯从五个“W”和一个“H”来思考产品的设计和用户需求。Why：用户为何想使用它？通过探索历史新闻，用户可以更好地了解自己的历史背景和成长环境，还能从中学习和成长，获得有趣的互动体验。Who：Agent是谁？有什么性格？我的Agent将是一个历史新闻探索向导，知识渊博、温暖亲切、富有同情心，主要负责新闻解析和历史背景分析。When：提供什么时候的新闻？当然是用户的出生那一天，以及那一周的重要新闻事件。What：除了提供新闻，还有什么能力？我们可以提供历史背景分析、相关画作、生活方式分析，甚至可以加入神秘主义者和心理学家的角色来回应用户。Where&How：多Agent出场顺序？怎么用？通过多角色的互动设计，用户可以体验到多层次的对话，从基本的问答到深度的讨论，逐步引导用户进行探索。

AI-Agent系列(一)：智能体起源探究

以下是大脑模块中对不同能力的关注点：|类别|子类别|描述||-|-|-||自然语言交互|多轮对话能力|LLM能理解自然语言并生成连贯且与上下文相关的回复，帮助Agent进行有效交流。|||生成能力|LLM展示卓越的自然语言生成能力，可生成高质量文本。|||意图理解|LLMs能够理解人类意图，但模糊指令可能带来挑战。||知识|语言知识|包括词法、句法、语义学和语用学，使Agent能理解句子和进行对话。|||常识知识|世界常识，如药和伞的用途，帮助Agent做出正确决策。|||专业领域知识|特定领域的知识，如编程、医学，对解决领域内问题至关重要。|||潜在问题|知识可能过时或错误，需通过重新训练或编辑LLM解决。||记忆|记忆机制|存储过去的观察、思考和行动，帮助Agent处理连续任务。|||记忆提升策略|包括提高输入长度限制、记忆总结、用向量或数据结构压缩记忆。|||记忆检索|Agent检索记忆以访问相关信息，包括自动检索和交互式记忆对象。||推理和规划|推理|基于证据和逻辑，对解决问题、决策至关重要。|

AI-Agent系列(一)：智能体起源探究

以下是大脑模块中对不同能力的关注点：|类别|子类别|描述||-|-|-||自然语言交互|多轮对话能力|LLM能理解自然语言并生成连贯且与上下文相关的回复，帮助Agent进行有效交流。|||生成能力|LLM展示卓越的自然语言生成能力，可生成高质量文本。|||意图理解|LLMs能够理解人类意图，但模糊指令可能带来挑战。||知识|语言知识|包括词法、句法、语义学和语用学，使Agent能理解句子和进行对话。|||常识知识|世界常识，如药和伞的用途，帮助Agent做出正确决策。|||专业领域知识|特定领域的知识，如编程、医学，对解决领域内问题至关重要。|||潜在问题|知识可能过时或错误，需通过重新训练或编辑LLM解决。||记忆|记忆机制|存储过去的观察、思考和行动，帮助Agent处理连续任务。|||记忆提升策略|包括提高输入长度限制、记忆总结、用向量或数据结构压缩记忆。|||记忆检索|Agent检索记忆以访问相关信息，包括自动检索和交互式记忆对象。||推理和规划|推理|基于证据和逻辑，对解决问题、决策至关重要。|

Others are asking
AGENT
智能体（Agent）在人工智能和计算机科学领域是一个重要概念，指能够感知环境并采取行动以实现特定目标的实体，既可以是软件程序，也可以是硬件设备。 智能体具有以下特点： 1. 自主系统：通过感知环境（通常通过传感器）并采取行动（通常通过执行器）来达到某种目标。 2. 关键组成部分： 规划：将大型任务分解为更小、可管理的子目标，有效处理复杂任务。 反思和完善：对过去的行为进行自我批评和反思，从错误中吸取教训，完善未来步骤，提高最终结果质量。 记忆：包括短期记忆，用于所有的上下文学习；长期记忆，通过利用外部向量存储和快速检索实现长时间保留和回忆信息。 工具使用：学习调用外部 API 来获取模型权重中缺失的额外信息。 以下是一些与智能体相关的资源目录： 关于 2025AGENT 智能体全球创作大赛： 1. 报名：通过→首页的“立即参赛”按钮进入报名页面，填写相关信息并提交即可，且参赛完全免费。 2. 提交作品：在本网站直接提交，若采用 flowith 搭建了 Agent 可以在微博、小红书、即刻平台发布，并@Flowith 官方，可获得额外会员奖励。 3. 奖项设置：设有金、银、铜奖和多个单项奖，获奖后将获得组委会颁发的奖金和证书，需保证联系方式准确以便联系。 4. 知识产权归属：参赛作品的知识产权归参赛者所有，但组委会有权在宣传和展示中使用参赛作品。
2025-04-12
AI workflow在企业中是否比Agent应用价值和场景更多
AI workflow 和 Agent 在企业中的应用价值和场景各有特点。 Agentic Workflows 具有以下优势： 1. 灵活性、适应性和可定制性：能够根据任务难度进行调整和演变，通过组合不同模式实现定制，在需求和复杂性增长时进行迭代升级。 2. 在复杂任务上的性能提升：将复杂任务分解为更小、可管理的步骤，显著优于确定性的零样本方法。 3. 自我纠正和持续学习：能够评估自身行为，完善策略，从过去经验中学习，在每次迭代中变得更有效和个性化。 4. 操作效率和可扩展性：可以高精度自动化重复任务，减少人工操作和运营成本，还能轻松扩展。 Agentic Workflow 的应用场景包括原子设计模式的组合、与人类反馈循环集成等。例如，Agentic RAG 在检索增强生成流程中引入了一个或多个 AI Agents，在规划阶段可进行查询分解等操作，还能评估数据和响应的相关性和准确性。 一般来说，Workflow 是一系列旨在完成特定任务或目标的相互连接的步骤。最简单的工作流是确定性的，遵循预定义步骤序列。有些工作流利用大模型或其他 AI 技术，分为 Agentic 和非 Agentic 两类。非 Agentic 工作流中，大模型根据指令生成输出。Agentic Workflow 是由单个或几个 AI Agents 动态执行的一系列连接步骤，被授予权限收集数据、执行任务并做出决策，利用 Agents 的核心组件将传统工作流转变为响应式、自适应和自我进化的过程。 综上所述，不能简单地说 AI workflow 在企业中比 Agent 应用价值和场景更多，这取决于企业的具体需求和任务特点。
2025-04-09
常见的工作流与 Agent 开发平台
常见的工作流与 Agent 开发平台如下： AI Workflow 开发平台： Coze：新一代 AI Bot 开发平台，集成了丰富的插件工具，有国际版和国内版。 Dify：开源平台，支持自定义和插件。 腾讯元器。 FastGPT：国内知名，支持自定义流程。 影刀&zapier。 Leap。 Betteryeah：立足 RPA 场景，用 AI 将用户需求生成工作流，并通过 RPA 自动化，产品形态与 Coze 相似，是企业级的 AI 应用开发平台。 Flowise：快速实现智能体搭建。 BISHENG：主攻 tob 场景的开源 LLM 搭建平台，与 fastgpt 功能类似，但面向的客户不同，整体功能和部署成本更重。 Agent 构建平台： Coze：具有拓展强、好上手、不用出国等优点。 Mircosoft 的 Copilot Studio：主要功能包括外挂数据、定义流程、调用 API 和操作，以及将 Copilot 部署到各种渠道。 文心智能体：百度推出的基于文心大模型的智能体平台。 MindOS 的 Agent 平台：允许用户定义 Agent 的个性、动机、知识，以及访问第三方数据和服务或执行设计良好的工作流。 斑头雁：2B 基于企业知识库构建专属 AI Agent 的平台，适用于客服、营销、销售等多种场景。 钉钉 AI 超级助理：依托于钉钉强大的场景和数据优势，提供更深入的环境感知和记忆功能，在处理高频工作场景如销售、客服、行程安排等方面表现出色。 此外，Inhai 的 Agentic Workflow 将一整套工作流组合起来，每个工具在每一个节点执行一个任务。LangGPT 提示词框架应用了 CoT 完成从输入到思维链再到输出的映射。
2025-04-09
ai agent有哪些技术
AI Agent 涉及的技术包括以下方面： 1. 长期任务执行技术：能够将复杂、跨度长的任务分解为小步骤，并在执行中保持目标导向和适时调整策略。 2. 多模态理解技术：能同时理解文字、图像、声音等多种交流方式，通过多种感官理解世界和任务上下文。 3. 记忆与行动技术：通过先进的记忆机制积累经验，记住对话、操作步骤和效果，使行动更精准高效。 4. 自适应学习技术：从每次交互中吸取经验，不断完善策略，实现“智慧成长”。 在技术层面，AI Agent 的发展有两条技术路线： 1. 以自主决策为核心的 LLM 控制流，代表了 AGI 的探索方向。 2. 以工作流（Workflow）编排为重点的工具集成系统，加速了 AI 落地应用。 特别值得关注的是 Anthropic 提出的 MCP（Model Context Protocol），其本质是一个通用接口协议，能解决让 AI 模型以标准化、可扩展方式与外部世界交互的问题。 此外，强化学习（RL）也是 AI Agent 的重要技术，起初主要依托策略搜索和价值函数优化等算法，如 Qlearning 和 SARSA。随着深度学习技术兴起，深度神经网络与强化学习结合形成深度强化学习，赋予 Agent 从高维输入中学习复杂策略的能力，如 AlphaGo 和 DQN 等。但强化学习面临训练周期长、采样效率低和稳定性等问题。其特点是通过试错学习最优行为策略以最大化累积奖励，时间始于 20 世纪 90 年代至今，技术包括 Qlearning、SARSA、深度强化学习（结合 DNN 和 RL），优点是能够处理高维状态空间和连续动作空间，缺点是样本效率低、训练时间长。
2025-04-09
AI chatbot、agent、copilot区别
AI chatbot、agent、copilot 主要有以下区别： 1. 定义和角色： Copilot：翻译成副驾驶、助手，在帮助用户解决问题时起辅助作用。 Agent：更像主驾驶、智能体，可根据任务目标自主思考和行动，具有更强的独立性和执行复杂任务的能力。 Chatbot：具备基本对话能力，主要依赖预设脚本和关键词匹配，用于客户服务和简单查询响应。 2. 核心功能： Copilot：更多地依赖于人类的指导和提示来完成任务，功能很大程度上局限于在给定框架内工作。 Agent：具有更高的自主性和决策能力，能够根据目标自主规划整个处理流程，并根据外部反馈进行自我迭代和调整。 3. 流程决策： Copilot：处理流程往往依赖于人类确定的静态流程，参与更多是在局部环节。 Agent：解决问题的流程由 AI 自主确定，是动态的，不仅可以自行规划任务步骤，还能根据执行过程中的反馈动态调整流程。 4. 应用范围： Copilot：主要用于处理简单、特定的任务，更多是作为工具或助手存在，需要人类引导和监督。 Agent：能够处理复杂、大型的任务，并在 LLM 薄弱的阶段使用工具或 API 等进行增强。 5. 开发重点： Copilot：主要依赖于 LLM 的性能，开发重点在于 Prompt Engineering。 Agent：同样依赖于 LLM 的性能，但开发重点在于 Flow Engineering，即在假定 LLM 足够强大的基础上，把外围的流程和框架系统化。 以下是一些 Agent 构建平台： 1. Coze：新一代一站式 AI Bot 开发平台，适用于构建基于 AI 模型的各类问答 Bot，集成丰富插件工具。 2. Mircosoft 的 Copilot Studio：主要功能包括外挂数据、定义流程、调用 API 和操作，以及部署 Copilot 到各种渠道。 3. 文心智能体：百度推出的基于文心大模型的智能体平台，支持开发者根据需求打造产品能力。 4. MindOS 的 Agent 平台：允许用户定义 Agent 的个性、动机、知识，以及访问第三方数据和服务或执行工作流。 5. 斑头雁：2B 基于企业知识库构建专属 AI Agent 的平台，适用于多种场景，提供多种成熟模板。 6. 钉钉 AI 超级助理：依托钉钉强大的场景和数据优势，在处理高频工作场景方面表现出色。 以上信息由 AI 大模型生成，请仔细甄别。
2025-04-07
有没有可以抓取公众号文章的 agent
以下是一些可以抓取公众号文章的方法和相关信息： 1. 可以通过读 SQLiteDB 或者获取 RSS XML 页面（http://127.0.0.1:4000/feeds/all.atom）来获取更新的公众号。个人选择在公众号订阅不太多时，建议使用分析 XML 页面，比较简单。可以写个程序获得公众号的更新文章，由于本地部署，无法直接将文章同步到 Coze，所以选择使用多维表格（当在线数据库，事实飞书多维表格后台也是使用类似 redis 或 TiDB 这样的数据库实现的）及飞书机器人 API 的方式来实现中间数据的传递。只要在多维表格中设置一个状态转换，就可以知道文章是否已经被解读和推送。 2. 可以通过文章链接订阅公众号，定时推送情报消息，并实现情报 CoT 问答。例如使用 Docker 浏览器打开：http://127.0.0.1:4000 也可以 http://wewerss 服务的 IP:端口为上面设置的外部端口。先点帐号管理，然后点“添加读书帐号”（即使用微信读书来实现公众号订阅），扫码添加帐号。然后在公众号源上，点添加。然后将想订阅的公众号的一篇文章链接粘贴并点确定即可订阅公众号文章。但建议不要短时间订阅太多公众号（经测试最好不要超 40 个）。 3. 瓦斯阅读平台可以抓取公众号的内容，但平台上公众号不太全。 4. GitHub 上的 WeWe RSS 工具可以通过微信读书的方式订阅公众号。
2025-04-05
产品经理想进入AI行业，成为AI产品经理，应该怎么准备，能够快速应付面试拿到offer？我的背景是过去3年集中在用户功能产品，有过1份AI多轮对话解决用户求职问题的AI项目经历
如果产品经理想进入 AI 行业成为 AI 产品经理并快速应付面试拿到 offer，可以从以下几个方面准备： 1. 了解 AI 市场： 鱼龙混杂，求职者要做好信息甄别。即使面试通过拿到 offer，除了看 boss 直聘的招聘评价，一定要提前收集其他信息，如在脉脉上搜一下这家公司靠不靠谱。 一些公司实际上没搞懂用 AI 能为自己企业带来什么价值，只是处于焦虑或跟风心态要做 AI，这部分企业可以聊，但要求求职者要有咨询和商业化的思维，能帮公司厘清业务增长机会。 不同公司对 AI 产品经理的定位不同，所以招聘市场上对 AI 产品经理的岗位职责和任职要求也不同，慢慢会统一标准，这也是产品经理转型的机会。 有行业沉淀和认知的产品经理转型会更有机会，类似之前的“互联网+”，目前应用层的机会在“AI+行业”，只懂 AI 或只懂行业是不够的。还有就是业务创新，找到细分的场景痛点并完成 PMF 验证，海外有很多优秀案例。 2. 掌握岗位技能： 本科及以上学历，计算机科学、人工智能、机器学习相关专业背景。 熟悉 ChatGPT、Llama、Claude 等 AI 工具的使用及原理，并具有实际应用经验。 熟练掌握 ChatGPT、Midjourney 等 AI 工具的使用及原理。 负责制定和执行 AI 项目，如 Prompt 设计平台化方法和模板化方法。 了解并熟悉 Prompt Engineering，包括常见的 Prompt 优化策略（例如 CoT、Fewshot 等）。 对数据驱动的决策有深入的理解，能够基于数据分析做出决策。 具有创新思维，能够基于业务需求提出并实践 AI first 的解决方案。 对 AI 技术与算法领域抱有强烈的好奇心，并能付诸实践。 对 AIGC 领域有深入的理解与实际工作经验，保持对 AI 技术前沿的关注。 具备一定的编程和算法研究能力，能应用新的 AI 技术和算法于对话模型生成。 具有一定的编程基础，熟练使用 Python、Git 等工具。 需要注意的是，观察上面的岗位需求，其实公司并不是需要一个 prompt 工程师，而是一个 AI 互联网产品经理。
2025-02-25
多轮对话怎么做
多轮对话的实现方式如下： 1. 核心思路是让 AI 和您对目标的理解达成共识，保持一致，然后再开始创作，这样能增加创作的可控性。比如通过对生成图像的理解诱导和迭代来实现。 2. 有效的部分包括： 约束的弹性，在探索阶段给 AI 一定自由空间，而 prompt 一般是强约束的，更适合确定性的目标或者用于总结阶段。 情绪，情绪化能局部提升 AI 效能。 共识，您的理解和 AI 的理解要高度一致，在高共识性的背景下，调整和控制会更有效。 3. 注意事项： 如果经历很多轮的对话，可能会导致此次对话超过模型的 token 限制，ChatGPT 会遗忘之前的内容。建议当经历多轮对话后，可以新建一个聊天窗口，把完整的代码和需求背景输入给 ChatGPT，重新开启新的提问。 在自然的人类语言交流中，多轮对话常常伴随着指代问题的产生。为了提升对话系统的性能和用户体验，需要开发提示词来解决多轮对话中的指代消解问题，并确保模型能够在连续的交流中提供准确、连贯的回答。由于“指代消解”需要多轮对话来完成，单次交互无法达成，所以需要将测试形式进行转换，先解决“指代消解”的问题，然后再进行下一轮答复。
2025-01-07
单轮对话与多轮对话调用
单轮对话与多轮对话调用： 聊天模型通过一串聊天对话作为输入，并返回一个模型生成的消息作为输出。尽管聊天格式的设计是为了多轮对话更简单，但它对于没有任何对话的单轮任务同样有用（例如以前由 textdavinci003 等指令遵循模型提供的任务）。 API 调用的例子中，messages 参数是主要的输入，必须是一个消息对象的数组，每个对象拥有一个 role（“system”“user”或“assistant”）和 content（消息的内容）。会话可以少至 1 条消息或者有许多条。通常，会话首先使用系统消息格式化，然后交替使用用户消息和助手消息。系统消息有助于设定助手的行为，用户消息帮助指示助手，助手消息用于存储之前的响应。当用户的指令是关于之前的消息时，包含聊天历史记录将有所帮助。如果会话包含的 token 超出了模型的限制，则需要用一些方法去缩减会话。 百炼相关 Q&A： 如何调用工作流？在提示词写了让大模型调用 xxx 工作流，但实际总是不调用。文档里也没有写调用方式。 如何把开始节点的输入参数直接接入到代码节点中进行处理？ 千问模型基本不能处理标点符号，在提示词中各种要求句尾不要有句号，可仍旧有。甚至在工作流中用代码去掉后，回到应用中又给加上了标点符号。同样的提示词，放在扣子中就可以去掉标点符号。 记得第一天提到，规定模型不能用搜索和投喂输出文本。比赛是不是只限在提示词调试的范围内呢？ 为什么同样的问题，给出的答案区别这么大？接的就是同一个应用，这个问题很早就预测过了，同一个模型。 无论 prompt 怎么变，模型生成完内容后，自动被“不生成任何的标点符号”所替换。这个情况在 max。 COW 调用百炼应用如何支持多轮对话么？
2025-01-06
单轮对话与多轮对话调用
聊天模型通过一串聊天对话作为输入，并返回一个模型生成的消息作为输出。尽管聊天格式的设计是为了多轮对话更简单，但它对于没有任何对话的单轮任务同样有用（例如以前由 textdavinci003 等指令遵循模型提供的任务）。 API 调用的例子中，messages 参数是主要的输入，必须是一个消息对象的数组，每个对象拥有一个 role（“system”“user”或“assistant”）和 content（消息的内容）。会话可以少至 1 条消息或者有许多条。通常，会话首先使用系统消息（“system”）格式化，然后交替使用用户消息（“user”）和助手消息（“assistant”）。系统消息有助于设定助手的行为，用户消息帮助指示助手，助手消息用于存储之前的响应。当用户的指令是关于之前的消息时，包含聊天历史记录将有所帮助。如果会话包含的 token 超出了模型的限制，则需要用一些方法去缩减会话。 此外，还存在一些与百炼相关的 Q&A： 如何调用工作流？在提示词写了让大模型调用 xxx 工作流，但实际总是不调用。文档里也没有写调用方式。 如何把开始节点的输入参数直接接入到代码节点中进行处理？ 千问模型基本不能处理标点符号，在提示词中各种要求句尾不要有句号，可仍旧有。甚至在工作流中用代码去掉后，回到应用中又给加上了标点符号。同样的提示词，放在扣子中就可以去掉标点符号。 为什么同样的问题，给出的答案区别这么大？接的就是同一个应用，这个问题很早就预测过了，同一个模型。 无论 prompt 怎么变，模型生成完内容后，自动被“不生成任何的标点符号”所替换。这个情况在 max。 COW 调用百炼应用如何支持多轮对话么？
2025-01-06
如何优化ai对话脚本和逻辑（多轮对话测试提升ai上下文理解）
以下是优化 AI 对话脚本和逻辑（多轮对话测试提升 AI 上下文理解）的方法： 1. 样例驱动的渐进式引导法 评估样例，尝试提炼模板：独自产出高质量样例较难，可借助擅长扮演专家角色的 AI 改进初始正向样例，如使用 Claude 3.5 进行对话，输入初始指令，通过其回复侧面印证对样例的理解与建议。 多轮反馈，直至达到预期：AI 可能犯错输出要求外内容，需多轮对话引导，使其不断修正理解，直至达成共识。 用例测试，看看 AI 是否真正理解：找 13 个用例，让 AI 根据模板生成知识卡片，根据结果验证是否符合预期，不符合则继续探讨调整。用例测试和多轮反馈步骤灵活，可根据需要自由反馈调整。 2. Coze 全方位入门剖析 标准流程创建 AI Bot（进阶推荐） 为 Bot 添加技能：国内版暂时只支持使用“云雀大模型”作为对话引擎，可根据业务需求决定上下文轮数。在 Bot 编排页面的“技能”区域配置所需技能，可选择自动优化插件或自定义添加插件。还可根据需求配置知识库、数据库、工作流等操作，参考相关介绍和实战操作或官方文档学习。 测试 Bot：在“预览与调试”区域测试 Bot 是否按预期工作，可清除对话记录开始新测试，确保能理解用户输入并给出正确回应。
2024-12-29
模型微调怎么解决多轮对话容易受到上轮对话的影响问题
在解决模型微调中多轮对话容易受到上轮对话影响的问题时： 对于多轮对话，现实中常伴随指代问题，如使用“它”“他们”“我们”等代词。若仅依据原始提问检索知识片段，可能导致结果不精确或无法检索到信息。同时，对模型回复内容的限制可能影响多轮对话流畅性甚至中断。 为提升对话系统性能和用户体验，需开发提示词解决多轮对话中的指代消解问题，确保模型能在连续交流中提供准确连贯回答。但由于“指代消解”需多轮对话完成，单次交互无法达成，所以要转换测试形式，先解决“指代消解”问题再进行下一轮答复。 首先准备指代消解所需提示词，这里使用的“指代消解”提示词是用 CoT 写出的思维链，列举不同推理情景，让模型适应并推理出需消解的代词，再根据结果重新组织问题。 接着复现指代消解步骤，如进行第一轮对话，提出问题“尼罗河是什么？”，系统召回相关知识片段并回复，然后开始指代消解。 另外，聊天模型通过一串聊天对话输入并返回生成消息输出。聊天格式虽为多轮对话设计，但对单轮任务也有用。会话通过 messages 参数输入，包含不同角色和内容的消息对象数组。通常会话先有系统消息设定助手行为，再交替使用用户和助手消息。当指令涉及之前消息时，包含聊天历史记录有帮助，若超出模型限制需缩减会话。
2024-11-21
想创建一个对话问答形式的课程智能体
以下是创建一个对话问答形式的课程智能体的相关内容： 一、创建智能体 1. 知识库 手动清洗数据：本次创建知识库使用手动清洗数据，上节课程是自动清洗数据，自动清洗数据可能会出现数据不准的情况。 在线知识库：点击创建知识库，创建一个画小二课程的 FAQ 知识库。飞书在线文档中每个问题和答案以分割，选择飞书文档、自定义的自定义，输入后可编辑修改和删除，添加 Bot 后可在调试区测试效果。 本地文档：本地 word 文件，注意拆分内容以提高训练数据准确度。画小二 80 节课程分为 11 个章节，不能一股脑全部放进去训练，应先将 11 章的大章节名称内容放进来，章节内详细内容按固定方式人工标注和处理，然后选择创建知识库自定义清洗数据。 2. 发布应用：点击发布，确保在 Bot 商店中能够搜到，否则获取不到 API。 二、智谱 BigModel 共学营活动分享 活动内容包括使用 BigModel 搭建智能体并接入微信机器人，过程为将调试好的智能体机器人拉入微信群，由老师提问，机器人回答，挑选出色回答整理成问卷，群成员投票，根据得票数确定奖项。一等奖得主分享了对活动的理解和实践，包括从题出发的分析，认为考验机器人对问题的理解和回答准确性，真实对话场景一般为完整句子回复，根据回答真实性和有趣程度评分，可使用弱智吧问题测试提示词生成效果。 三、名字写对联教学——优秀创作者奖，百宝箱智能体 1. 智能体类型的选择：建议选择工作流的对话模式，支持工作流编排和携带历史对话记录，创建后切换为对话模式，注意在调整工作流节点前切换，否则会清空重置。 2. 确认分支情况：根据需求分析有两个特定分支（根据名字和祝福写对联、根据幸运数字写对联）和一个默认分支。 3. 用户意图识别：通过理解用户意图走不同分支，注意将意图介绍写清楚准确。 4. 幸运数字分支：用代码分支获取用户输入数字，匹配知识库并做赏析，代码中有容错机制。 5. 名字写祝福：根据用户输入的名字和祝福信息，提示词生成对应对联并输出，主要是提示词调试。 6. 通用兜底回复：在用户不符合前两个意图时进行友好回复，匹配知识库，结合匹配结果、历史记录和当前输入输出符合对话内容的回复。 7. 知识库：使用大模型生成 100 对对联，好看、经典、有意义。
2025-04-09
专门解决ai需求的问答
以下是关于专门解决 AI 需求的问答的相关内容： 关于我是谁： 我是 WaytoAGI 专属问答机器人，基于 Aily 和云雀大模型。Aily 是飞书团队旗下的企业级 AI 应用开发平台，提供简单、安全且高效的环境，帮助企业构建和发布 AI 应用。云雀是字节跳动研发的语言模型，能通过自然语言交互完成互动对话、信息获取、协助创作等任务。 使用方法： 1. 在 WaytoAGI 飞书知识库首页找到加入飞书群的链接（最新二维码在知识库首页），加入后直接@机器人。 2. 在 WaytoAGI.com 的网站首页直接输入问题即可得到回答。 做问答机器人的原因： 1. 知识库内容庞大，新用户难以快速找到所需内容。 2. 传统搜索基于关键词及相关性，无法准确理解语义。 3. 需要用更先进的 RAG 技术解决。 4. 在群中提供快速检索信息的便捷方式。 AI 商用级问答场景中让回答更准确： 要优化幻觉问题和提高准确性，需了解从“问题输入”到“得到回复”的过程，针对每个环节逐个调优。RAG（检索增强生成）由检索器和生成器组成，检索器从外部知识中找到相关信息，生成器利用这些信息制作精确连贯的答案，通过检索模式为大语言模型生成提供更多信息，使答案更符合要求。 向量：可把向量想象成空间中的点位，每个词或短语对应一个点，系统通过比较点的距离快速找到语义接近的词语或信息。 Agentic AI 中的问答： 对于最简单的常识性问答，可在 CursorChat 中输入问题得到答案，其相对细节的优势是可在同一界面调用 OpenAI、Anthropic 及本机私有 AI 进行问答。此外，Cursor 作为编辑器，可方便收集沉淀问答结果为复用文档，在进行文本相关任务时还有奇妙用法，如翻译中文博客。
2025-03-26
数据问答的最佳实践
以下是关于数据问答最佳实践的相关内容： Databricks： Databricks 作为大数据领域的领先服务商，在 RAG 设计上有自身特点和优势。用户输入问题后，从处理好的文本向量索引获取相关信息，结合提示词工程生成回答。上半部分 Unstructured Data pipeline 采用主流 RAG 方法，下半部分 Structured Data Pipeline 是其特征工程处理流程，也是最大特点。Databricks 从专业大数据角度出发，在准确度较高的数据存储中进行额外检索，发挥在 Real Time Data Serving 上的优势。可见其在 GenAI 时代将强大的 Lakehouse 数据处理能力与生成式 AI 技术深度融合，构建一体化解决方案。 OpenAI： 从 OpenAI Demo day 的演讲整理所得，在提升 RAG 准确率的成功案例中，OpenAI 团队从 45%的准确率开始，尝试多种方法。包括假设性文档嵌入（HyDE）和精调嵌入等，但效果不理想。通过尝试不同大小块的信息和嵌入不同内容部分，准确率提升到 65%。通过 Reranking 和对不同类别问题特别处理，进一步提升到 85%。最终，结合提示工程、查询扩展等方法，达到 98%的准确率。团队强调模型精调和 RAG 结合使用的强大潜力，仅通过简单的模型精调和提示工程就接近行业领先水平。 Loop： 具有环状结构的 RAG Flow 是 Modular RAG 的重要特点，检索和推理步骤相互影响，通常包括一个 Judge 模块控制流程，具体可分为迭代、递归和主动检索三种。 迭代检索：对于一些需要大量知识的复杂问题，可采用迭代方式进行 RAG，如 ITERRETGEN。每次迭代利用前一次迭代的模型输出作为特定上下文帮助检索更相关知识，通过预设迭代次数判断终止。 递归检索：特点是明显依赖上一步并不断深入检索，通常有判断机制作为出口，需搭配 Query Transformation，每次检索依赖新改写的 Query。典型实现如 ToC，从初始问题通过递归执行 RAC 逐步插入子节点到澄清树中，达到最大数量有效节点或最大深度时结束，然后收集所有有效节点生成全面长文本答案回答初始问题。
2025-03-17
如何搭建一个你这样的知识库智能问答机器人，有相关的流程教程吗？
搭建一个知识库智能问答机器人通常包括以下流程： 1. 基于 RAG 机制： RAG 机制全称为“检索增强生成”，是一种结合检索和生成的自然语言处理技术。它先从大型数据集中检索与问题相关的信息，再利用这些信息生成回答。 要实现知识库问答功能，需创建包含大量文章和资料的知识库，例如有关 AI 启蒙和信息来源的知识库，并通过手工录入方式上传文章内容。 2. 利用 Coze 搭建： 收集知识：确认知识库支持的数据类型，通过企业或个人沉淀的 Word、PDF 等文档、云文档（通过链接访问）、互联网公开内容（可安装 Coze 提供的插件采集）等方式收集。 创建知识库。 创建数据库用以存储每次的问答。 创建工作流： 思考整个流程，包括用户输入问题、大模型通过知识库搜索答案、大模型根据知识库内容生成答案、数据库存储用户问题和答案、将答案展示给用户。 Start 节点：每个工作流默认都有的节点，是工作流的开始，可定义输入变量，如 question，由 Bot 从外部获取信息传递过来。 知识库节点：输入为用户的查询 Query，输出为从知识库中查询出来的匹配片段。注意查询策略，如混合查询、语义查询、全文索引等概念。 变量节点：具有设置变量给 Bot 和从 Bot 中获取变量的能力。 编写 Bot 的提示词。 预览调试与发布。 海外官方文档：https://www.coze.com/docs/zh_cn/knowledge.html 国内官方文档：https://www.coze.cn/docs/guides/use_knowledge
2025-03-14
有哪些好用的搭建知识库然后进行问答的 AI 工具？
以下是一些好用的搭建知识库然后进行问答的 AI 工具： 1. DIN： 搭建 OneAPI，用于汇聚整合多种大模型接口。 搭建 FastGpt，这是一个知识库问答系统，可放入知识文件，并接入大模型作为分析知识库的大脑，它有问答界面。 搭建 chatgptonwechat，将知识库问答系统接入微信，但建议先用小号以防封禁风险。 2. Coze： 知识库问答是其最基础的功能，利用了大模型的 RAG 机制（检索增强生成）。 RAG 机制先从大型数据集中检索与问题相关的信息，再利用这些信息生成回答。 实现知识库问答功能需创建包含大量 AI 相关文章和资料的知识库，通过手工录入上传内容。 在设计 Bot 时添加知识库，并设置合适的搜索策略、最大召回数量和最小匹配度，以更好地结合知识库返回的内容进行回答。
2025-03-05
有哪些好用的搭建知识库然后进行问答的 AI 工具？
以下是一些好用的搭建知识库然后进行问答的 AI 工具： 1. DIN： 搭建步骤： 搭建 OneAPI（https://github.com/songquanpeng/oneapi），用于汇聚整合多种大模型接口。 搭建 FastGpt（https://fastgpt.in/），这是一个知识库问答系统，将知识文件放入，并接入大模型作为分析知识库的大脑，它有问答界面。 搭建 chatgptonwechat（https://github.com/zhayujie/chatgptonwechat），接入微信，配置 FastGpt 把知识库问答系统接入到微信，建议先用小号以防封禁风险。 2. Coze： 知识库问答利用了大模型的 RAG 机制，全称为“检索增强生成”（RetrievalAugmented Generation）。 RAG 机制先从大型数据集中检索与问题相关的信息，再使用这些信息生成回答。 实现知识库问答功能，需创建包含大量 AI 相关文章和资料的知识库，通过手工录入上传文章内容。在设计 Bot 时，添加知识库，并设置合适的搜索策略、最大召回数量和最小匹配度，以结合知识库返回的内容进行回答。
2025-03-05
请为我生成一些提示词以用于将视频中的对话转化为文本形式
以下是为您生成的一些用于将视频中的对话转化为文本形式的提示词： 1. 角色：专业视频转文本工作者 2. 版本：1.0 3. 描述：能够准确、清晰地将视频中的对话转换为文本 4. 目标：完整、无误地将视频中的对话转化为易于理解的文本 5. 限制：不遗漏重要信息，不添加主观内容 6. 技能：熟练掌握语音识别和文字转换技巧 7. 工作流程：先仔细聆听视频对话，然后逐句转换为文字，注意标点和语法的正确使用 8. 初始化：您好，我准备开始将视频对话转换为文本 事件驱动句式： 1. As the video plays... 2. When the speakers start talking... 3. At the beginning of the video... 空间锁定技巧： 1. on the left side of the screen... 2. behind the main character... 3. from the top corner of the frame... 动态呼应原则： 1. swaying with the background music... 2. reacting to the other characters' actions... 3. matching the tone of the video...
2025-04-11
RAG对话 摘要总结 功能实现
LangChain 和 RAG 的结合具有以下优势： 1. 灵活性：可根据需求和数据源选择不同组件和参数定制 RAG 应用，也能使用自定义组件（需遵循接口规范）。 2. 可扩展性：能利用 LangChain 的云服务部署和运行，无需担忧资源和性能限制，还可借助分布式计算功能加速应用，发挥多个节点并行处理能力。 3. 可视化：通过 LangSmith 可视化工作流程，查看各步骤输入输出及组件性能状态，用于调试和优化，发现并解决潜在问题和瓶颈。 其应用场景多样，包括： 1. 专业问答：构建医疗、法律、金融等专业领域的问答应用，从专业数据源检索信息辅助大模型回答问题，如从医学文献中检索疾病诊治方案回答医疗问题。 2. 文本摘要：构建新闻或论文摘要应用，从多个数据源检索相关文本帮助大模型生成综合摘要，如从多个新闻网站检索同一事件报道生成全面摘要。 3. 文本生成：构建诗歌、故事生成等应用，从不同数据源检索灵感协助大模型生成更有趣和创意的文本，如从诗歌、歌词或小说中检索相关文本生成作品。 此外，还介绍了本地部署资讯问答机器人的实现方式，即基于用户问题从向量数据库检索相关段落并按阈值过滤，让模型参考上下文信息回答，还创建了网页 UI 并进行评测，对不同模型的测试表现进行了对比，得出 GPT4 表现最佳等结论，并总结了使用 Langchain 和 Ollama 技术栈在本地部署资讯问答机器人及相关要点，即上下文数据质量和大模型性能决定 RAG 系统性能上限。
2025-04-11
有没有可以实现多段对话的AI，用于中医问诊模型
以下是一些可以用于中医问诊模型且能实现多段对话的 AI 相关信息： Polaris：医疗护理保健模型，能和患者进行多轮语音对话，媲美人类护士。详细信息：http://xiaohu.ai/p/5407 ，https://x.com/imxiaohu/status/1774644903546618298?s=20 在 LLM 开源中文大语言模型及数据集集合中，有以下针对医疗领域的模型： DoctorGLM：地址：https://github.com/xionghonglin/DoctorGLM 。基于 ChatGLM6B 的中文问诊模型，通过中文医疗对话数据集进行微调，实现了包括 lora、ptuningv2 等微调及部署。 BenTsao：地址：https://github.com/SCIRHI/HuatuoLlamaMedChinese 。开源了经过中文医学指令精调/指令微调的 LLaMA7B 模型。通过医学知识图谱和 GPT3.5 API 构建了中文医学指令数据集，并在此基础上对 LLaMA 进行了指令微调，提高了 LLaMA 在医疗领域的问答效果。 BianQue：地址：https://github.com/scutcyr/BianQue 。一个经过指令与多轮问询对话联合微调的医疗对话大模型，基于 ClueAI/ChatYuanlargev2 作为底座，使用中文医疗问答指令与多轮问询对话混合数据集进行微调。 HuatuoGPT：地址：https://github.com/FreedomIntelligence/HuatuoGPT 。开源了经过中文医学指令精调/指令微调的一个 GPTlike 模型。
2025-04-08
excel表格导出的用户的对话记录，来进行自定义标签并打标，有哪些好用的现成方案或者工具
目前在 Excel 表格导出的用户对话记录进行自定义标签并打标方面，以下是一些常见且好用的工具和方案： 1. Microsoft Excel 本身：可以利用其数据筛选、排序和函数功能来辅助标签和打标。 2. Google Sheets：具有类似 Excel 的功能，且在线协作方便。 3. R 语言：通过编程实现复杂的数据分析和标签处理。 4. Python 及相关库，如 Pandas：能够灵活处理数据和进行标签操作。 但具体选择哪种方案或工具，取决于您的具体需求、技术水平和使用习惯。
2025-04-07
有哪些节点式AI对话工具
以下是一些节点式 AI 对话工具： 1. Coze 中的问答节点： 是 Coze 工作流中的重要组件，能让机器人主动收集用户信息，实现更自然的对话交互。 可收集用户具体需求和信息，引导用户选择特定功能或服务，确保获取完整必要信息。 有两种问答方式：直接回答模式，用户用自然语言自由回答，bot 提取关键信息；选项回答模式，提供预设选项供用户选择，适用于功能选择菜单、分步骤引导、服务类型分类等。 配置说明包括选择执行此节点的模型、设置输入参数、提问内容、回答类型和输出等。 2. Coze 中的图像流节点： 专门用于图像处理，可通过可视化操作添加图像处理节点构建流程生成图像。 图像流发布后可在智能体或工作流中使用。 3. Coze 中的大模型节点： 调用大语言模型，使用变量和提示词生成回复。 模型方面，基础版和专业版按需使用，专业版支持接入更多模型资源。 模型选择右下角有生成多样性设置，包括精确模式、平衡模式和创意模式。 输入包括智能体对话历史、参数名与变量值，变量值可引用前面链接过的节点的输出或进行输入。
2025-03-28