Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

如何利用多轮对话做Agent问答

Answer

利用多轮对话做 Agent 问答可以从以下几个方面考虑：

  1. 从产品角度：
    • 思考用户为何想使用，例如通过探索历史新闻让用户更好地了解自身背景、成长环境，从中学习成长并获得有趣互动体验。
    • 明确 Agent 是谁及其性格，比如设定为知识渊博、温暖亲切、富有同情心的历史新闻探索向导，负责新闻解析和历史背景分析。
    • 确定提供新闻的时间，如用户出生那天及那一周的重要新闻事件。
    • 规划除新闻外的能力，如提供历史背景分析、相关画作、生活方式分析，甚至加入神秘主义者和心理学家角色回应用户。
    • 设计多 Agent 出场顺序和使用方式，通过多角色互动设计，让用户体验多层次对话，从基本问答到深度讨论，逐步引导用户探索。
  2. 基于 LLM 的大脑模块：
    • 自然语言交互方面：LLM 应具备多轮对话能力，能理解自然语言并生成连贯、上下文相关的回复，还应具备出色的生成能力和意图理解能力，但要注意模糊指令可能带来的挑战。
    • 知识方面：包括语言知识（词法、句法、语义学和语用学）、常识知识（如药和伞的用途）、专业领域知识（如编程、医学），但要注意知识可能过时或错误，需通过重新训练或编辑 LLM 解决。
    • 记忆方面：具备记忆机制，存储过去的观察、思考和行动，通过提高输入长度限制、记忆总结、用向量或数据结构压缩记忆等策略提升记忆，Agent 能检索记忆以访问相关信息，包括自动检索和交互式记忆对象。
    • 推理和规划方面：基于证据和逻辑进行推理，这对解决问题和决策至关重要。
Content generated by AI large model, please carefully verify (powered by aily)

References

Roger：从产品角度思考 Agent 设计

作为一个产品经理，我习惯从五个“W”和一个“H”来思考产品的设计和用户需求。Why：用户为何想使用它？通过探索历史新闻，用户可以更好地了解自己的历史背景和成长环境，还能从中学习和成长，获得有趣的互动体验。Who：Agent是谁？有什么性格？我的Agent将是一个历史新闻探索向导，知识渊博、温暖亲切、富有同情心，主要负责新闻解析和历史背景分析。When：提供什么时候的新闻？当然是用户的出生那一天，以及那一周的重要新闻事件。What：除了提供新闻，还有什么能力？我们可以提供历史背景分析、相关画作、生活方式分析，甚至可以加入神秘主义者和心理学家的角色来回应用户。Where&How：多Agent出场顺序？怎么用？通过多角色的互动设计，用户可以体验到多层次的对话，从基本的问答到深度的讨论，逐步引导用户进行探索。

AI-Agent系列(一)：智能体起源探究

以下是大脑模块中对不同能力的关注点：|类别|子类别|描述||-|-|-||自然语言交互|多轮对话能力|LLM能理解自然语言并生成连贯且与上下文相关的回复，帮助Agent进行有效交流。|||生成能力|LLM展示卓越的自然语言生成能力，可生成高质量文本。|||意图理解|LLMs能够理解人类意图，但模糊指令可能带来挑战。||知识|语言知识|包括词法、句法、语义学和语用学，使Agent能理解句子和进行对话。|||常识知识|世界常识，如药和伞的用途，帮助Agent做出正确决策。|||专业领域知识|特定领域的知识，如编程、医学，对解决领域内问题至关重要。|||潜在问题|知识可能过时或错误，需通过重新训练或编辑LLM解决。||记忆|记忆机制|存储过去的观察、思考和行动，帮助Agent处理连续任务。|||记忆提升策略|包括提高输入长度限制、记忆总结、用向量或数据结构压缩记忆。|||记忆检索|Agent检索记忆以访问相关信息，包括自动检索和交互式记忆对象。||推理和规划|推理|基于证据和逻辑，对解决问题、决策至关重要。|

AI-Agent系列(一)：智能体起源探究

以下是大脑模块中对不同能力的关注点：|类别|子类别|描述||-|-|-||自然语言交互|多轮对话能力|LLM能理解自然语言并生成连贯且与上下文相关的回复，帮助Agent进行有效交流。|||生成能力|LLM展示卓越的自然语言生成能力，可生成高质量文本。|||意图理解|LLMs能够理解人类意图，但模糊指令可能带来挑战。||知识|语言知识|包括词法、句法、语义学和语用学，使Agent能理解句子和进行对话。|||常识知识|世界常识，如药和伞的用途，帮助Agent做出正确决策。|||专业领域知识|特定领域的知识，如编程、医学，对解决领域内问题至关重要。|||潜在问题|知识可能过时或错误，需通过重新训练或编辑LLM解决。||记忆|记忆机制|存储过去的观察、思考和行动，帮助Agent处理连续任务。|||记忆提升策略|包括提高输入长度限制、记忆总结、用向量或数据结构压缩记忆。|||记忆检索|Agent检索记忆以访问相关信息，包括自动检索和交互式记忆对象。||推理和规划|推理|基于证据和逻辑，对解决问题、决策至关重要。|

Others are asking
ai agent 框架有哪些
目前常见的 AI Agent 框架主要有以下几种： 1. LangChain 的 LangGraph：通过简化标准底层任务，如调用 LLM、定义和解析工具、链接调用等，使入门变得容易，但可能创建额外抽象层，增加调试难度。 2. 亚马逊 Bedrock 的 AI Agent 框架。 3. Rivet：拖放式 GUI 的 LLM 工作流构建器。 4. Vellum：用于构建和测试复杂工作流的 GUI 工具。 此外，行业里常用于为 LLM 增加工具、记忆、行动、规划等能力的框架是 LangChain，它把 LLM 与 LLM 之间以及 LLM 与工具之间通过代码或 prompt 的形式进行串接。AutoGPT 被描述为使 GPT4 完全自主的实验性开源尝试，也是一种重要的框架。但需要注意的是，当前大多数代理框架都处于概念验证阶段，还不能可靠、可重现地完成任务。
2025-01-08
小红书配图建议的 Agent
以下是为您提供的关于小红书配图建议的相关内容： 彬子在基于 ComfyUI 做油管封面的分享中提到，他是 ComfyUI 新人，之前更多使用 Coze 做 Agent，涉及绘图功能会调用 Coze 的图像流。Glif 提供的云端 ComfyUI 带来更多图像玩法，Coze 的工作流和 ComfyUI 的图像流代表了 Agent 内部两个子领域的领先水平，但大多数同学专注其一领域精进，好处是能做出落地的 Agent，短板是依赖平台或社区弥补。例如，熟悉 Coze 的同学开发助理类 Bot 便捷但出图自由度不高，熟悉 ComfyUI 的同学能完成高水平图像、视频流但流程中 Agent 含量不高。只要从擅长的阵地多迈出一步，就能更好把控在一个 Agent 中如何设计和运用各种节点。 彬子还在 2024 AI 年度小记中提到，其小红书主页为 ，发小红书除记录外希望找到更多探索的朋友，会有企业人员咨询或求助，但当时个人面向企业挣钱难，大企业决策链长，小企业信息化和文档沉淀不足。7 8 月小红书更新进入瓶颈，后参与 WaytoAGI 社区的 Coze 活动。 此外，还有教程“11_小暑”，作者为三思，可复制版本：https://mp.weixin.qq.com/s/mqT00X85iCR27KFiZazUoQ ，访问 ，并推荐特别适合做夏日的 lora—夏日白莲/咖菲猫咪，https://www.liblib.art/modelinfo/c7990c5616054e28825a44378637d71c?from=personal_page ，但这套效果不稳定，需更新调整关键词和参数。
2025-01-08
最近Agent方面的场景案例
以下是一些关于 Agent 方面的场景案例： 1. 吴恩达最新演讲中提到的四种 Agent 设计范式： Reflection（反思）：例如让用 Reflection 构建好的 AI 系统写代码，AI 会把代码加上检查正确性和修改的话术再返回给自己，通过反复操作完成自我迭代，虽不能保证修改后代码质量，但效果通常更好。 Tool Use（工具使用）：大语言模型调用插件，极大拓展了 LLM 的边界能力。 Planning（规划）：属于比较新颖且有前景的方式。 Multiagent（多智能体）：也具有发展潜力。 2. Ranger 文章中的相关内容： Agent 被认为是大模型未来的主要发展方向。 中间的“智能体”通常是 LLM 或大模型，通过为其增加工具、记忆、行动、规划这四个能力来实现。 行业里主要用到的是 langchain 框架，它在 prompt 层和工具层完成主要的设计，将 LLM 与 LLM 以及 LLM 与工具进行串接。 3. 从词源和历史变迁来看： 在不同时期，“Agent”在商业、政府、情报、娱乐、体育等领域都有重要角色，涵盖贸易代理、公司代理商、情报特工、艺人经纪人等多种职业。 “Agent”一词具有行动和替身的含义，多数情况下指“拥有行动的替身，替代他人做某事”。
2025-01-07
如何设计问答agent
设计问答 Agent 可以从以下几个方面考虑： 1. 明确 Agent 的身份和性格： 身份：例如将其设定为历史新闻探索向导。 性格：如知识渊博、温暖亲切、富有同情心。 为使角色更生动，可设计简短背景故事，比如曾是历史学家，对重大历史事件了如指掌，充满热情并愿意分享知识。 2. 写好角色个性： 角色背景和身份：编写背景故事，明确起源、经历和动机。 性格和语气：定义性格特点，如友好、幽默、严肃或神秘；确定说话方式和风格。 角色互动方式：设计从基本问答到深入讨论的对话风格。 角色技能：明确核心功能，如提供新闻解析、历史背景分析或心理分析；增加附加功能以提高吸引力和实用性。 3. 一些好的 Agent 构建平台包括： Coze：新一代一站式 AI Bot 开发平台，集成丰富插件工具拓展 Bot 能力。 Mircosoft 的 Copilot Studio：主要功能有外挂数据、定义流程、调用 API 和操作，以及部署到各种渠道。 文心智能体：百度推出的基于文心大模型的智能体平台，支持开发者打造产品能力。 MindOS 的 Agent 平台：允许用户定义 Agent 的个性、动机、知识，以及访问第三方数据和服务或执行工作流。 斑头雁：2B 基于企业知识库构建专属 AI Agent 的平台，适用于多种场景，提供多种成熟模板。 钉钉 AI 超级助理：依托钉钉优势，在处理高频工作场景方面表现出色。 请注意，以上信息由 AI 大模型生成，请仔细甄别。
2025-01-07
部署Agent专属的web端应用
以下是关于部署 Agent 专属的 web 端应用的相关内容： 在 Linux 上部署较为简单，前提是您有一张 4G 以上显存的 GPU 显卡。步骤如下： 1. 下载代码仓库。 2. 安装依赖（注意有两个依赖未放在 requirements.txt 里）。 3. 启动 webui 的 demo 程序，然后用浏览器登陆服务器的 ip:8080 就能试玩。此 demo 提供了 3 个参数： server_name：服务器的 ip 地址，默认 0.0.0.0。 servic_port：即将开启的端口号。 local_path：模型存储的本地路径。 4. 第一次启动生成语音时，需查看控制台输出，会下载一些模型文件，可能因网络问题失败，但首次加载成功后后续会顺利。 5. 基于此基础可拓展，比如集成到 agent 的工具中，结合 chatgpt 做更拟人化的实时沟通。 6. webui 上可设置的几个参数说明： text：指需要转换成语音的文字内容。 Refine text：选择是否自动对输入的文本进行优化处理。 Audio Seed：语音种子，是一个用于选择声音类型的数字参数，默认值为 2，是很知性的女孩子的声音。 Text Seed：文本种子，是一个正整数参数，用于 refine 文本的停顿，实测文本的停顿设置会影响音色、音调。 额外提示词（可写在 input Text 里）：用于添加笑声、停顿等效果，例如。 以下是一些 Agent 构建平台： 1. Coze：新一代一站式 AI Bot 开发平台，适用于构建基于 AI 模型的各类问答 Bot，集成丰富插件工具拓展 Bot 能力边界。 2. Microsoft 的 Copilot Studio：主要功能包括外挂数据、定义流程、调用 API 和操作，以及将 Copilot 部署到各种渠道。 3. 文心智能体：百度推出的基于文心大模型的智能体（Agent）平台，支持开发者根据需求打造产品能力。 4. MindOS 的 Agent 平台：允许用户定义 Agent 的个性、动机、知识，以及访问第三方数据和服务或执行工作流。 5. 斑头雁：2B 基于企业知识库构建专属 AI Agent 的平台，适用于客服、营销、销售等场景，提供多种成熟模板，功能强大且开箱即用。 6. 钉钉 AI 超级助理：依托钉钉强大的场景和数据优势，提供环境感知和记忆功能，在处理高频工作场景如销售、客服、行程安排等方面表现出色。 以上信息仅供参考，您可根据自身需求选择适合的平台。
2025-01-07
将Agent应用钉钉平台
将 Agent 应用于钉钉平台的步骤如下： 1. 首先，您可以参考 Dify 接入微信的相关教程。在 Dify 平台创建基础编排聊天助手应用，获取 API 密钥和 API 服务器地址。 2. 下载 Dify on WeChat 项目并安装依赖。 3. 在项目根目录创建 config.json 文件，填写 API 密钥和服务器地址。 4. 把基础编排聊天助手接入微信，可选择源码部署或 Docker 部署，进行快速启动测试，扫码登录，进行对话测试。 5. 把工作流编排聊天助手接入微信，创建知识库，导入知识库文件，创建工作流编排聊天助手应用，设置知识检索节点和 LLM 节点，发布更新并访问 API。 6. 把 Agent 应用接入微信，创建 Agent 应用，设置对话模型和添加工具，生成 API 密钥，填写配置文件，启动程序并进行测试。 以下是一些 Agent 构建平台供您参考： 1. Coze：新一代一站式 AI Bot 开发平台，适用于构建各类问答 Bot，集成丰富插件工具。 2. Microsoft 的 Copilot Studio：主要功能包括外挂数据、定义流程、调用 API 和操作，以及将 Copilot 部署到各种渠道。 3. 文心智能体：百度推出的基于文心大模型的智能体平台，支持开发者打造产品能力。 4. MindOS 的 Agent 平台：允许用户定义 Agent 的个性、动机、知识，以及访问第三方数据和服务或执行工作流。 5. 斑头雁：2B 基于企业知识库构建专属 AI Agent 的平台，适用于多种场景，提供多种成熟模板。 6. 钉钉 AI 超级助理：依托钉钉强大的场景和数据优势，在处理高频工作场景表现出色。 如果您想零基础模板化搭建 AI 微信聊天机器人，添加各种自定义 COW 插件到微信机器人，部署 COW 插件的步骤如下： 1. 直接点击 Apilot 平台以下位置来复制保存好 Apilot 的 API 令牌。 2. 在宝塔服务器创建一个 config.json 文件，将相关内容复制到文件中，注意更新 sum4all 和 Apilot 的两个 API 令牌。 3. 重新删掉之前正在跑的机器人服务，重新使用新的编排模板来跑微信机器人。 4. 运行过程中如需修改 config.json 文件里的配置，可在文件位置进行内容修改，修改保存后，在容器板块中对应在跑的机器人服务点击重启即可。 更多详细内容请访问相关原文：https://docs.dify.ai/v/zhhans/learnmore/usecases/difyonwechat
2025-01-07
多轮对话怎么做
多轮对话的实现方式如下： 1. 核心思路是让 AI 和您对目标的理解达成共识，保持一致，然后再开始创作，这样能增加创作的可控性。比如通过对生成图像的理解诱导和迭代来实现。 2. 有效的部分包括： 约束的弹性，在探索阶段给 AI 一定自由空间，而 prompt 一般是强约束的，更适合确定性的目标或者用于总结阶段。 情绪，情绪化能局部提升 AI 效能。 共识，您的理解和 AI 的理解要高度一致，在高共识性的背景下，调整和控制会更有效。 3. 注意事项： 如果经历很多轮的对话，可能会导致此次对话超过模型的 token 限制，ChatGPT 会遗忘之前的内容。建议当经历多轮对话后，可以新建一个聊天窗口，把完整的代码和需求背景输入给 ChatGPT，重新开启新的提问。 在自然的人类语言交流中，多轮对话常常伴随着指代问题的产生。为了提升对话系统的性能和用户体验，需要开发提示词来解决多轮对话中的指代消解问题，并确保模型能够在连续的交流中提供准确、连贯的回答。由于“指代消解”需要多轮对话来完成，单次交互无法达成，所以需要将测试形式进行转换，先解决“指代消解”的问题，然后再进行下一轮答复。
2025-01-07
单轮对话与多轮对话调用
单轮对话与多轮对话调用： 聊天模型通过一串聊天对话作为输入，并返回一个模型生成的消息作为输出。尽管聊天格式的设计是为了多轮对话更简单，但它对于没有任何对话的单轮任务同样有用（例如以前由 textdavinci003 等指令遵循模型提供的任务）。 API 调用的例子中，messages 参数是主要的输入，必须是一个消息对象的数组，每个对象拥有一个 role（“system”“user”或“assistant”）和 content（消息的内容）。会话可以少至 1 条消息或者有许多条。通常，会话首先使用系统消息格式化，然后交替使用用户消息和助手消息。系统消息有助于设定助手的行为，用户消息帮助指示助手，助手消息用于存储之前的响应。当用户的指令是关于之前的消息时，包含聊天历史记录将有所帮助。如果会话包含的 token 超出了模型的限制，则需要用一些方法去缩减会话。 百炼相关 Q&A： 如何调用工作流？在提示词写了让大模型调用 xxx 工作流，但实际总是不调用。文档里也没有写调用方式。 如何把开始节点的输入参数直接接入到代码节点中进行处理？ 千问模型基本不能处理标点符号，在提示词中各种要求句尾不要有句号，可仍旧有。甚至在工作流中用代码去掉后，回到应用中又给加上了标点符号。同样的提示词，放在扣子中就可以去掉标点符号。 记得第一天提到，规定模型不能用搜索和投喂输出文本。比赛是不是只限在提示词调试的范围内呢？ 为什么同样的问题，给出的答案区别这么大？接的就是同一个应用，这个问题很早就预测过了，同一个模型。 无论 prompt 怎么变，模型生成完内容后，自动被“不生成任何的标点符号”所替换。这个情况在 max。 COW 调用百炼应用如何支持多轮对话么？
2025-01-06
单轮对话与多轮对话调用
聊天模型通过一串聊天对话作为输入，并返回一个模型生成的消息作为输出。尽管聊天格式的设计是为了多轮对话更简单，但它对于没有任何对话的单轮任务同样有用（例如以前由 textdavinci003 等指令遵循模型提供的任务）。 API 调用的例子中，messages 参数是主要的输入，必须是一个消息对象的数组，每个对象拥有一个 role（“system”“user”或“assistant”）和 content（消息的内容）。会话可以少至 1 条消息或者有许多条。通常，会话首先使用系统消息（“system”）格式化，然后交替使用用户消息（“user”）和助手消息（“assistant”）。系统消息有助于设定助手的行为，用户消息帮助指示助手，助手消息用于存储之前的响应。当用户的指令是关于之前的消息时，包含聊天历史记录将有所帮助。如果会话包含的 token 超出了模型的限制，则需要用一些方法去缩减会话。 此外，还存在一些与百炼相关的 Q&A： 如何调用工作流？在提示词写了让大模型调用 xxx 工作流，但实际总是不调用。文档里也没有写调用方式。 如何把开始节点的输入参数直接接入到代码节点中进行处理？ 千问模型基本不能处理标点符号，在提示词中各种要求句尾不要有句号，可仍旧有。甚至在工作流中用代码去掉后，回到应用中又给加上了标点符号。同样的提示词，放在扣子中就可以去掉标点符号。 为什么同样的问题，给出的答案区别这么大？接的就是同一个应用，这个问题很早就预测过了，同一个模型。 无论 prompt 怎么变，模型生成完内容后，自动被“不生成任何的标点符号”所替换。这个情况在 max。 COW 调用百炼应用如何支持多轮对话么？
2025-01-06
如何优化ai对话脚本和逻辑（多轮对话测试提升ai上下文理解）
以下是优化 AI 对话脚本和逻辑（多轮对话测试提升 AI 上下文理解）的方法： 1. 样例驱动的渐进式引导法 评估样例，尝试提炼模板：独自产出高质量样例较难，可借助擅长扮演专家角色的 AI 改进初始正向样例，如使用 Claude 3.5 进行对话，输入初始指令，通过其回复侧面印证对样例的理解与建议。 多轮反馈，直至达到预期：AI 可能犯错输出要求外内容，需多轮对话引导，使其不断修正理解，直至达成共识。 用例测试，看看 AI 是否真正理解：找 13 个用例，让 AI 根据模板生成知识卡片，根据结果验证是否符合预期，不符合则继续探讨调整。用例测试和多轮反馈步骤灵活，可根据需要自由反馈调整。 2. Coze 全方位入门剖析 标准流程创建 AI Bot（进阶推荐） 为 Bot 添加技能：国内版暂时只支持使用“云雀大模型”作为对话引擎，可根据业务需求决定上下文轮数。在 Bot 编排页面的“技能”区域配置所需技能，可选择自动优化插件或自定义添加插件。还可根据需求配置知识库、数据库、工作流等操作，参考相关介绍和实战操作或官方文档学习。 测试 Bot：在“预览与调试”区域测试 Bot 是否按预期工作，可清除对话记录开始新测试，确保能理解用户输入并给出正确回应。
2024-12-29
模型微调怎么解决多轮对话容易受到上轮对话的影响问题
在解决模型微调中多轮对话容易受到上轮对话影响的问题时： 对于多轮对话，现实中常伴随指代问题，如使用“它”“他们”“我们”等代词。若仅依据原始提问检索知识片段，可能导致结果不精确或无法检索到信息。同时，对模型回复内容的限制可能影响多轮对话流畅性甚至中断。 为提升对话系统性能和用户体验，需开发提示词解决多轮对话中的指代消解问题，确保模型能在连续交流中提供准确连贯回答。但由于“指代消解”需多轮对话完成，单次交互无法达成，所以要转换测试形式，先解决“指代消解”问题再进行下一轮答复。 首先准备指代消解所需提示词，这里使用的“指代消解”提示词是用 CoT 写出的思维链，列举不同推理情景，让模型适应并推理出需消解的代词，再根据结果重新组织问题。 接着复现指代消解步骤，如进行第一轮对话，提出问题“尼罗河是什么？”，系统召回相关知识片段并回复，然后开始指代消解。 另外，聊天模型通过一串聊天对话输入并返回生成消息输出。聊天格式虽为多轮对话设计，但对单轮任务也有用。会话通过 messages 参数输入，包含不同角色和内容的消息对象数组。通常会话先有系统消息设定助手行为，再交替使用用户和助手消息。当指令涉及之前消息时，包含聊天历史记录有帮助，若超出模型限制需缩减会话。
2024-11-21
多轮对话训练中你如何训练模型掌握情感需求
在多轮对话训练中，让模型掌握情感需求可以通过以下几种方式： 1. 利用相关数据集进行训练，例如： Guanaco：地址为，是一个使用 SelfInstruct 的主要包含中日英德的多语言指令微调数据集。 chatgptcorpus：地址为，开源了由 ChatGPT3.5 生成的 300 万自问自答数据，包括多个领域，可用于训练大模型。 SmileConv：地址为，数据集通过 ChatGPT 改写真实的心理互助 QA 为多轮的心理健康支持多轮对话，含有 56k 个多轮对话，其对话主题、词汇和篇章语义更加丰富多样，更符合长程多轮对话的应用场景。 2. 在创建提示时采用结构化模式，为模型提供一些情感需求的示例，如： |输入|输出| ||| |一部制作精良且有趣的电影|积极的| |10 分钟后我睡着了|消极的| |电影还行|中性的| 然后单击页面右侧的提交按钮。该模型现在可为输入文本提供情绪。还可以保存新设计的提示。 3. 在多轮次对话中，定期总结关键信息，重申对话的目标和指令，有助于模型刷新记忆，确保准确把握对话的进展和要点。 4. 进行意图识别和分类，特别关注在单一模型或情境中处理多个小逻辑分支的情况。例如在客户服务场景中，快速确定用户提出咨询、投诉、建议等多种类型请求的意图，并分类到相应处理流程中。
2024-11-11
智能问答机器人
以下是关于智能问答机器人的相关信息： 一、关于“我是谁” 我是 WaytoAGI 专属问答机器人，基于 Aily 和云雀大模型。Aily 是飞书团队旗下的企业级 AI 应用开发平台，提供简单、安全且高效的环境，帮助企业构建和发布 AI 应用。云雀是字节跳动研发的语言模型，能通过自然语言交互高效完成互动对话、信息获取、协助创作等任务。 二、使用方法 1. 在 WaytoAGI 飞书知识库首页找到加入飞书群的链接（最新二维码在），点击加入，直接@机器人即可。 2. 在 WaytoAGI.com 的网站首页，直接输入问题，即可得到回答。 在飞书 5000 人大群里，内置了智能机器人「waytoAGI 知识库智能问答」，基于飞书 aily 搭建。您只需在飞书群里发起话题时候即可，它会根据 waytoAGI 知识库的内容进行总结和回答。 三、做问答机器人的原因 1. 整个知识库内容庞大且丰富，新用户难以快速找到所需内容。 2. 传统搜索基于关键词及相关性，无法准确理解语义价值。 3. 需要用更先进的 RAG 技术解决。 4. 在群中提供快速检索信息的便捷方式。 四、飞书群问答机器人的功能 1. 自动问答：自动回答用户关于 AGI 知识库内涉及的问题，对多文档进行总结、提炼。 2. 知识搜索：在内置的「waytoAGI」知识库中搜索特定信息和数据，快速返回相关内容。 3. 文档引用：提供与用户查询相关的文档部分或引用，帮助用户获取更深入的理解。 4. 互动教学：通过互动式的问答，帮助群成员学习和理解 AI 相关的复杂概念。 5. 最新动态更新：分享有关 AGI 领域的最新研究成果、新闻和趋势。 6. 社区互动：促进群内讨论，提问和回答，增强社区的互动性和参与度。 7. 资源共享：提供访问和下载 AI 相关研究论文、书籍、课程和其他资源的链接。 8. 多语言支持：支持多语言问答，满足不同背景用户的需求。 五、搭建问答机器人的分享 时间：2024 年 2 月 22 日 会议首先介绍了 WaytoAGI 社区的成立愿景和目标，以及其在飞书平台上的知识库和社区的情况。接着，讨论了利用 AI 技术帮助用户更好地检索知识库中的内容，引入了 RAG 技术，通过机器人来帮助用户快速检索内容。然后，介绍了基于飞书的知识库智能问答技术的应用场景和实现方法，可以快速地给大模型补充新鲜的知识，提供大量新的内容。之后，讨论了如何使用飞书的智能伙伴功能来搭建 FAQ 机器人，以及智能助理的原理和使用方法。最后，介绍了企业级 agent 方面的实践。 六、背后的技术 「飞书智能伙伴创建平台」（英文名：Aily）是飞书团队旗下的企业级 AI 应用开发平台，提供了一个简单、安全且高效的环境，帮助企业轻松构建和发布 AI 应用，推动业务创新和效率提升。为企业探索大语言模型应用新篇章、迎接企业智能化未来提供理想选择。
2025-01-07
Agent开发案例产品售后客服问答
以下是一些常见的 Agent 构建平台： 1. Coze：它是新一代的一站式 AI Bot 开发平台，适用于构建基于 AI 模型的各类问答 Bot，集成了丰富的插件工具，能极大地拓展 Bot 的能力边界。 2. Microsoft 的 Copilot Studio：主要功能有外挂数据、定义流程、调用 API 和操作，还能将 Copilot 部署到各种渠道。 3. 文心智能体：百度推出的基于文心大模型的智能体（Agent）平台，支持开发者根据自身需求打造大模型时代的产品能力。 4. MindOS 的 Agent 平台：允许用户定义 Agent 的个性、动机、知识，以及访问第三方数据和服务或执行设计良好的工作流。 5. 斑头雁：2B 基于企业知识库构建专属 AI Agent 的平台，适用于客服、营销、销售等多种场景，提供多种成熟模板，功能强大且开箱即用。 6. 钉钉 AI 超级助理：依托于钉钉强大的场景和数据优势，提供更深入的环境感知和记忆功能，在处理高频工作场景如销售、客服、行程安排等方面表现出色。 以上信息由 AI 大模型生成，请您仔细甄别，并根据自己的需求选择适合的平台进行进一步探索和应用。
2025-01-07
Agent开发案例产品售后客服问答
以下是一些常见的 Agent 构建平台： 1. Coze：它是新一代的一站式 AI Bot 开发平台，适用于构建基于 AI 模型的各类问答 Bot，且集成了丰富插件工具，能极大拓展 Bot 能力边界。 2. Microsoft 的 Copilot Studio：主要功能有外挂数据、定义流程、调用 API 和操作，还能将 Copilot 部署到各种渠道。 3. 文心智能体：百度推出的基于文心大模型的智能体（Agent）平台，支持开发者按自身需求打造产品能力。 4. MindOS 的 Agent 平台：允许用户定义 Agent 的个性、动机、知识，能访问第三方数据和服务或执行设计良好的工作流。 5. 斑头雁：2B 基于企业知识库构建专属 AI Agent 的平台，适用于客服、营销、销售等场景，提供多种成熟模板，功能强大且开箱即用。 6. 钉钉 AI 超级助理：依托钉钉强大的场景和数据优势，提供更深入的环境感知和记忆功能，在处理高频工作场景如销售、客服、行程安排等方面表现出色。 以上信息提供了这 6 个平台的概述，您可根据自身需求选择适合的平台进一步探索和应用。请注意，内容由 AI 大模型生成，请仔细甄别。
2025-01-07
多模态模型与多模态问答
多模态模型与多模态问答相关内容如下： Gemini 模型在图像理解方面表现出色，在多个基准测试中处于领先地位。它在高级对象识别、细粒度转录、空间理解和多模态推理等任务中展现出强大性能，在 zeroshot QA 评估中优于其他模型，在学术基准测试中如 MathVista 和 InfographicVQA 有显著改进，在 MMMU 基准测试中取得最好分数。 智谱·AI 推出了具有视觉和语言双模态的模型，如 CogAgent18B、CogVLM17B 和 Visualglm6B。CogAgent18B 拥有 110 亿视觉参数和 70 亿语言参数，支持高分辨率图像理解，具备 GUI 图像的 Agent 能力。CogVLM17B 是多模态权威学术榜单上综合成绩第一的模型。VisualGLM6B 是支持图像、中文和英文的多模态对话语言模型。 Zhang 等人（2023）提出了一种多模态思维链提示方法，将文本和视觉融入到一个两阶段框架中，多模态 CoT 模型（1B）在 ScienceQA 基准测试中的表现优于 GPT3.5。
2025-01-07
openai 发布的sora最新模型中，生成视频的提示词与一般问答提示词有什么区别或者注意事项？
Sora 是 OpenAI 于 2024 年 2 月发布的文本到视频的生成式 AI 模型。 生成视频的提示词与一般问答提示词的区别和注意事项如下： 1. 对于视频生成，神经网络是单射函数，拟合的是文本到视频的映射。由于视频的动态性高，值域大，因此需要丰富且复杂的提示词来扩大定义域，以学好这个函数。 2. 详细的文本提示能迫使神经网络学习文本到视频内容的映射，加强对提示词的理解和服从。 3. 和 DALL·E 3 一样，OpenAI 用内部工具（很可能基于 GPT4v）给视频详尽的描述，提升了模型服从提示词的能力以及视频的质量（包括视频中正确显示文本的能力）。但这会导致在使用时的偏差，即用户的描述相对较短。OpenAI 用 GPT 来扩充用户的描述以改善这个问题，并提高使用体验和视频生成的多样性。 4. 除了文本，Sora 也支持图像或者视频作为提示词，支持 SDEdit，并且可以向前或者向后生成视频，因此可以进行多样的视频编辑和继续创作，比如生成首尾相连重复循环的视频，甚至连接两个截然不同的视频。 以下是一些 Sora 的案例提示词，如：“小土豆国王戴着雄伟的王冠，坐在王座上，监督着他们广阔的土豆王国，里面充满了土豆臣民和土豆城堡。”“咖啡馆的小地图立体模型，装饰着室内植物。木梁在上方纵横交错，冷萃咖啡站里摆满了小瓶子和玻璃杯。”“一张写有‘SORA’的写实云朵图像。”“一群萨摩耶小狗学习成为厨师的电影预告片‘cinematic trailer for a group of samoyed puppies learning to become chefs’”
2024-12-27
是不是可以跟任何大模型进行对话
一般来说，可以跟很多大模型进行对话。以下是一些常见的方式： 1. 对于 Llama3 大模型： 下载大模型主要是为了与之对话，或者称为使用其进行推理。 有两种对话方式，可使用 API 或部署简单界面。面向小白，这里主要介绍部署界面的方式。 例如，在 /root/autodltmp 路径下新建 chatBot.py 文件并输入相关内容，然后启动 Webdemo 服务，按照指示映射端口，在浏览器中打开相应链接即可看到聊天界面。 2. 对于 Llama 大模型： 首先编译，为利用 Metal 的 GPU 可用特定命令编译。 去指定网址下载模型。 llama.cpp 还提供了 WebUI 供用户使用，启动 server 后默认监听 8080 端口，打开浏览器就可以对话。 3. 对于通过 Open WebUI 使用大模型： 访问指定网址，使用邮箱注册账号。 登陆成功后，Open WebUI 一般有聊天对话和 RAG 能力（让模型根据文档内容回答问题）两种使用方式。如果要求不高，已实现通过 Web UI 与本地大模型对话的功能。 需要注意的是，不同大模型的访问速度和回答效果可能存在差异，例如 ChatGPT 访问速度快是因为其服务器配置高，回答效果好是因为训练参数多、数据更优以及训练算法更好。
2025-01-07
我是否可以在飞书上传我的相关文档，然后把这些文档作为知识库进行对话，若可以，如何操作
在飞书上可以上传您的相关文档并将其作为知识库进行对话。具体操作如下： 1. 您需要一个额外的软件：AnythingLLM。其安装地址为：https://useanything.com/download 。安装完成后进入配置页面，主要分为三步： 第一步：选择大模型。 第二步：选择文本嵌入模型。 第三步：选择向量数据库。 2. 在 AnythingLLM 中，有一个 Workspace 的概念，您可以创建自己独有的 Workspace 与其他项目数据进行隔离。操作步骤为： 首先创建一个工作空间。 上传文档并且在工作空间中进行文本嵌入。 选择对话模式，AnythingLLM 提供了两种对话模式： Chat 模式：大模型会根据自己的训练数据和您上传的文档数据综合给出答案。 Query 模式：大模型仅仅会依靠文档中的数据给出答案。 测试对话。 3. 另外，您还可以参考以下操作在飞书上创建知识库并上传文本内容： 登录 。 在左侧导航栏的工作区区域，选择进入指定团队。 在页面顶部进入知识库页面，并单击创建知识库。在弹出的页面配置知识库名称、描述，并单击确认（一个团队内的知识库名称不可重复，必须是唯一的）。 在单元页面，单击新增单元。 在弹出的页面选择要上传的数据格式（默认是文本格式），然后选择一种文本内容上传方式完成内容上传。上传方式如下： 本地文档： 在文本格式页签下，选择本地文档，然后单击下一步。 将要上传的文档拖拽到上传区，或单击上传区域选择要上传的文档。目前支持上传.txt、.pdf、.docx 格式的文件内容，每个文件不得大于 20M，一次最多可上传 10 个文件。当上传完成后单击下一步。 选择内容分段方式： 自动分段与清洗：系统会对上传的文件数据进行自动分段，并会按照系统默认的预处理规则处理数据。 自定义：手动设置分段规则和预处理规则。分段标识符：选择符合实际所需的标识符。分段最大长度：设置每个片段内的字符数上限。文本预处理规则：替换掉连续的空格、换行符和制表符，删除所有 URL 和电子邮箱地址。单击下一步完成内容上传和分片。
2025-01-07
RAG工作流对话调试
RAG（检索增强生成）工作流主要包括以下几个阶段： 1. 问题解析阶段：接收并预处理问题，通过嵌入模型（如 Word2Vec、GloVe、BERT）将问题文本转化为向量，以用于后续检索。 2. 知识库检索阶段：知识库中的文档同样向量化后，比较问题向量与文档向量，选择最相关的信息片段并抽取传递给下一步骤。 3. 信息整合阶段：接收检索到的信息，与上下文构建形成融合、全面的信息文本，整合信息准备进入生成阶段。 4. 大模型生成回答：整合后的信息被转化为向量并输入到 LLM（大语言模型），模型逐词构建回答，最终输出给用户。 RAG 的基本概念： RAG 是一种结合了检索和生成的技术，能让大模型在生成文本时利用额外的数据源，提高生成的质量和准确性。其基本流程为，首先给定用户输入（如问题或话题），RAG 从数据源中检索出相关文本片段（称为上下文），然后将用户输入和检索到的上下文拼接成完整输入传递给大模型（如 GPT），输入通常包含提示指导模型生成期望输出（如答案或摘要），最后从大模型的输出中提取或格式化所需信息返回给用户。 在实际调试预览中，例如： 1. 知识库检索部分：把输入的问题通过 Embedding 做向量化，使用语言模型优化问题、添加接近的检索词，知识库向量检索时抽取条件包含相似度 0.85，通过检索抽取出多个内容块。 2. 大模型对话部分：将相关信息传递给 LLM 最终得到 AI 的回答。
2025-01-06