直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

多Agent之间的调用教程

回答

以下是关于多 Agent 之间调用的教程:

《执笔者》中的多 Agent 模式操作步骤

  1. 多 agent 模式切换:在 bot 编排页面点选多 agent 模式,页面将自动切换为多 agent 调试状态,相比单 agent,多了中间的 agent 连接区。
  2. 添加合适节点:有两种方式选择节点,即使用已发布的 bot 或创建新的 agent,按需选取,添加的 agent 直接连接在默认的总管 agent(“执笔者”)后面,无结束节点。
  3. 添加合适的 prompt:在多 agent 模式下,为每个 agent 填写合适的 prompt,外围的人设填写该 bot 的主要功能,内部的 bot 填写各个 bot/agent 的应用场景。
  4. 调试与美化:经过以上三步,一个多 agent 的 bot 基本搭建完成,之后是漫长的调试过程,若输出与设想有差异,可不断调整外围和内部 bot 的提示词,提升命中率,优化交互。

沉浸式单机剧本杀 Bot 中的多 Agent 协作: 单机剧本杀 Bot 由多个 agent 共同协作完成,主要包括:

  1. 主持人 Agent:通过对话引导玩家,通过提示和发放道具帮助玩家推进情节,像全知全能的主持人帮助玩家在游戏过程中前进。
  2. 条件判断 Agent:负责解析玩家输入,判断是否达到触发下一情节的条件,若条件符合,把相应情节传递给主持人 Agent 继续讲解。
  3. 情节向量化处理与索引构建:对剧本内容进行向量化处理,自动分段并构建索引,使主持人和判断 Agent 能迅速、准确地检索所需内容,让剧情展开更流畅。

关于 Multi-Agent 的介绍: 随着大型语言模型(LLM)的出现,以 LLM 为核心构建的 Agent 系统近期受到广泛关注。Agent 系统旨在利用 LLM 的归纳推理能力,为不同的 Agent 分配角色和任务信息,并配备相应的工具插件,以完成复杂的任务。 目前常见框架主要集中在单 Agent 场景下,其核心在于 LLM 与工具的协同配合,LLM 根据用户任务的理解,推理出需要调用的工具,并根据调用结果向用户提供反馈,在任务完成过程中,Agent 可能需要与用户进行多轮交互。 同时,越来越多的 Agent 框架开始关注多 Agent 场景,为完成任务,为不同的 Agent 指定不同角色,并通过 Agent 之间的协作来完成复杂任务,与单 Agent 相比,在任务完成过程中,与用户的交互可能会减少一些。

内容由 AI 大模型生成,请仔细甄别(powered by aily)

参考资料

《执笔者》:基于多Agent模式的全能写手

1.多agent模式切换在bot编排页面点选多agent模式,页面将会自动切换为多agent调式状态,相比单agent,主要是多了中间一块的agent连接区。切换多agent后的默认页面1.添加合适节点节点这里有两种方式可以选择,用已发布的bot,或者创建一个新的agent,大家按需选取。添加的agent直接连接在默认的总管agent(“执笔者”)后面即可,无结束节点。1.添加合适的prompt在多agent模式下,我们需要为每个agent填写合适的prompt。外围的人设填写该bot的主要功能,内部的bot填写各个bot/agent的应用场景。1.调试与美化经过以上简单三步,一个多agent的bot就基本搭建完成,接下来就是漫长的调试过程,如果输出与自己设想有差异,可以不断调整外围和内部bot的提示词,提升命中率,优化交互。

沉浸式单机剧本杀Bot

我们的单机剧本杀Bot由多个agent共同协作完成,其中主要包括:1.主持人Agent:这个Agent主要通过对话引导玩家,通过提示和发放道具帮助玩家推进情节。它就像一个全知全能的主持人,帮助玩家在游戏过程中不断前进。2.条件判断Agent:负责解析玩家输入,判断是否达到了触发下一情节的条件。如果条件符合,它会把相应的情节传递给主持人Agent继续讲解。3.情节向量化处理与索引构建:通过对剧本内容进行向量化处理,我们将其自动分段,并构建索引。这样主持人和判断Agent可以迅速、准确地检索所需内容,使得剧情展开更加流畅。

问:Multi-Agent是什么

随着大型语言模型(LLM)的出现,以LLM为核心构建的Agent系统近期受到了广泛关注。Agent系统旨在利用LLM的归纳推理能力,为不同的Agent分配角色和任务信息,并配备相应的工具插件,以完成复杂的任务。目前,更常见的框架主要集中在单Agent场景下。单Agent的核心在于LLM与工具的协同配合。LLM根据用户任务的理解,推理出需要调用的工具,并根据调用结果向用户提供反馈。在任务完成过程中,Agent可能需要与用户进行多轮交互。与此同时,越来越多的Agent框架开始关注多Agent场景。为了完成任务,多Agent会为不同的Agent指定不同的角色,并通过Agent之间的协作来完成复杂的任务。与单Agent相比,在任务完成过程中,与用户的交互可能会减少一些。

其他人在问
AI agent和智能体有什么区别
AI agent 和智能体在以下方面存在区别: 1. 概念侧重点:AI agent 更强调作为数字人的大脑,拥有记忆模块等,以实现更真实的交互;智能体则被视为智能的最小单元,是可以设定目标后主动完成任务的。 2. 能力构成:AI agent 主要通过接入大语言模型,并结合工具、记忆、行动、规划等能力来发挥作用;智能体不仅具备推理能力,还能执行全自动化业务,但目前许多相关产品仍需人类参与。 3. 实现方式:AI agent 目前行业里主要通过如 langchain 框架,在 prompt 层和工具层完成设计,将大模型与工具进行串接;智能体在实现上可能涉及更多复杂的技术和逻辑。
2024-11-12
我想从互联网上搜集某些类型的论文,并且自动整理成我想要的格式,有什么基于大模型的agent或者软件推荐吗
以下是一些基于大模型的 agent 或者软件,可帮助您从互联网上搜集某些类型的论文并自动整理成您想要的格式: 1. 文献管理和搜索: Zotero:结合 AI 技术,可自动提取文献信息,助您管理和整理参考文献。 Semantic Scholar:由 AI 驱动的学术搜索引擎,能提供相关文献推荐和引用分析。 2. 内容生成和辅助写作: Grammarly:通过 AI 技术提供文本校对、语法修正和写作风格建议,提高论文语言质量。 Quillbot:基于 AI 的重写和摘要工具,可精简和优化论文内容。 3. 研究和数据分析: Google Colab:提供基于云的 Jupyter 笔记本环境,支持 AI 和机器学习研究,便于数据分析和可视化。 Knitro:用于数学建模和优化的软件,可进行复杂的数据分析和模型构建。 4. 论文结构和格式: LaTeX:虽不是纯粹的 AI 工具,但结合自动化和模板,可高效处理论文格式和数学公式。 Overleaf:在线 LaTeX 编辑器,有丰富模板库和协作功能,简化论文编写过程。 5. 研究伦理和抄袭检测: Turnitin:广泛使用的抄袭检测工具,确保论文原创性。 Crossref Similarity Check:通过与已发表作品比较,检测潜在抄袭问题。 此外,在 AI 文章排版方面,以下工具可供选择: 1. Grammarly:不仅是语法和拼写检查工具,还提供排版功能,改进文档整体风格和流畅性。 2. QuillBot:AI 驱动的写作和排版工具,改进文本清晰度和流畅性。 3. LaTeX:常用于学术论文排版,使用标记语言描述格式,有许多 AI 辅助的编辑器和插件简化排版。 4. PandaDoc:文档自动化平台,用 AI 帮助创建、格式化和自动化文档生成,适合商业和技术文档。 5. Wordtune:AI 写作助手,重新表述和改进文本,使其更清晰专业。 6. Overleaf:在线 LaTeX 编辑器,提供丰富模板和协作工具,适合学术写作和排版。 选择合适的工具取决于您的具体需求,如文档类型、出版标准和个人偏好。对于学术论文,LaTeX 和 Overleaf 受欢迎;对于一般文章和商业文档,Grammarly 和 PandaDoc 等可能更适用。 请注意,以上内容由 AI 大模型生成,请仔细甄别。
2024-11-09
我如果要自建一个Agent,该怎么做
自建一个 Agent 可以按照以下步骤进行: 1. 从案例入门 三分钟捏 Bot Step 1:(10 秒)登录控制台 登录扣子控制台(coze.cn)。 使用手机号或抖音注册/登录。 Step 2:(20 秒)在我的空间创建 Agent 在扣子主页左上角点击“创建 Bot”。 选择空间名称为“个人空间”、Bot 名称为“第一个 Bot”,并点击“确认”完成配置。如需使用其他空间,请先创建后再选择;Bot 名称可以自定义。 Step 3:(30 秒)编写 Prompt 填写 Prompt,即自己想要创建的 Bot 功能说明。第一次可以使用一个简短的词语作为 Prompt 提示词。 Step 4:(30 秒)优化 Prompt 点击“优化”,使用来帮忙优化。 Step 5:(30 秒)设置开场白 Step 6:(30 秒)其他环节 Step 7:(30 秒)发布到多平台&使用 2. 进阶之路 15 分钟做什么 查看下其他 Bot,获取灵感 1 小时做什么 找到和自己兴趣、工作方向等可以结合的 Bot,深入沟通 阅读以下文章:文章 1、文章 2、文章 3 一周做什么 了解基础组件 寻找不错的扣子,借鉴&复制 加入 Agent 共学小组 尝试在群里问第一个问题 一个月做什么 合理安排时间 参与 WaytoAGI Agent 共学计划 自己创建 Agent,并分享自己捏 Bot 的经历和心得 3. 在 WaytoAGI 有哪些支持 文档资源 交流群 活动 工具篇: 1. 人和动物的本质区别之一,就是会使用工具,因此工具也是智能体中非常基础和重要的一环。 2. 通常 Agent 框架中会自带非常多的工具,请先熟悉这些自带的工具。 制作工具 互联网 API 工具:Jina 说明: 手册:https://jina.ai/ 工具:高德 API 说明:是高德地图提供的一套开放接口,可以实现地图展示、地理编码、逆地理编码、路径规划、地点搜索等功能。开发者可以通过调用这些 API 来实现自己的地图应用。 手册:https://lbs.amap.com/api/ 本机软件 自行构建 平台自带工具/插件 特别推荐:大聪明的插件:webcopilot Coze.cn 插件列表: coze 插件说明文档 👀小技巧:采用罗文提供的提示词可以获取插件说明:(⚠️施工中...目前差错非常多,暂时处于不可用状态,在后续持续的共创活动中将逐步完善) 文章:LLM 驱动的自主 Agents | Lilian Weng 1. 实例探究 概念验证示例 引起了人们对建立以 LLM 作为主控制器的自治 Agents 的可能性的广泛关注。考虑到自然语言界面,它存在很多可靠性问题,但仍然是一个很酷的概念验证演示。AutoGPT 中的很多代码都是关于格式解析的。 这是 AutoGPT 使用的系统消息,其中{{...}}是用户输入。 是另一个项目,用于根据自然语言指定的任务创建整个代码存储库。GPTEngineer 被指示思考一系列较小的组件来构建,并根据需要要求用户提供输入以澄清问题。 以下是发送到 GPTEngineer 使用的 OpenAI ChatCompletion 端点的用于说明任务的示例对话。用户输入被包装在{{user input text}}。 然后,在这些澄清之后,Agents 进入代码编写模式并显示不同的系统消息。系统消息: 对话样本:
2024-11-08
agent案例
以下是为您提供的关于 Agent 的相关案例和信息: 四种 Agent 设计范式: Reflection(反思):类似于 AI 的自我纠错和迭代。例如让用 Reflection 构建好的 AI 系统写代码,AI 会把代码加上检查正确性和修改的话术再返回给自己,然后反复进行,完成自我迭代。 Tool Use(工具使用):大语言模型调用插件,极大拓展了 LLM 的边界能力。 智能体的类型: 简单反应型智能体(Reactive Agents):根据当前感知输入直接采取行动,不维护内部状态和考虑历史信息。例如温控器。 基于模型的智能体(Modelbased Agents):维护内部状态,对当前和历史感知输入进行建模,能推理未来状态变化并采取行动。例如自动驾驶汽车。 目标导向型智能体(Goalbased Agents):具有明确目标,能根据目标评估行动方案并选择最优行动。例如机器人导航系统。 效用型智能体(Utilitybased Agents):不仅有目标,还能量化不同状态的效用值,选择效用最大化的行动。例如金融交易智能体。 学习型智能体(Learning Agents):能够通过与环境交互不断改进性能,学习模型、行为策略和目标函数。例如强化学习智能体。 从产品角度思考 Agent 设计: Agent 可以是一个历史新闻探索向导,身份为历史新闻探索向导,性格知识渊博、温暖亲切、富有同情心,角色是主导新闻解析和历史背景分析。为使角色更生动,可设计简短背景故事。 写好角色个性包括:编写背景故事明确起源、经历和动机;定义性格特点和说话方式风格;设计对话风格;明确核心功能和附加功能。
2024-11-05
AI Agent 规划是什么,怎么使用
AI Agent 规划是一个复杂但关键的概念,主要包括以下方面: 自行规划任务执行的工作流路径,适用于简单或线性流程的运行。例如,先识别男孩的姿势,再利用相关模型合成新的女孩图像,接着使用特定模型处理,最后进行语音合成输出。 包含子目标分解、反思与改进。子目标分解将大型任务分解为较小可管理的子目标,以处理复杂任务。反思与改进则可以对过去的行动进行自我批评和自我反思,从错误中学习并改进未来的步骤,从而提高最终结果的质量。 规划通常涉及五种主要方法: 任务分解:将复杂任务分解为简单子任务以简化问题,如 CoT(2022)、ReAct(2022)、HuggingGPT(2023)等。 多计划选择:生成多个备选计划并通过搜索算法选择最优计划执行,如 ToT(2023)、GoT(2023)、LLMMCTS(2023)。 外部模块辅助规划:引入外部规划器来提升规划过程,解决效率和可行性问题,如 LLM+P(2023)、LLMDP(2023)、DRRN(2015)。 反思与细化:通过反思和细化提高规划能力,纠正错误,如 Reflexion(2023)、CRITIC(2023)、SelfRefine(2023)。 记忆增强规划:利用额外记忆模块增强规划能力,存储有价值的信息,如 REMEMBER(2023)、MemoryBank(2023)。 在使用方面,AI Agent 的规划可以帮助其更高效、准确地完成任务,例如在多角色协作的场景中,不同角色的 Agent 相互协作,根据需求共同开发一个应用或者复杂程序。同时,OpenAI 的研究主管 Lilian Weng 提出了“Agent = LLM + 规划 + 记忆 + 工具使用”的基础架构,其中大模型 LLM 扮演了 Agent 的“大脑”。
2024-11-05
请帮我总结AI AGENT的总体架构,帮助我更快学习相关的知识,尽快进行具体场景的商业落地
AI Agent 是一个融合了多学科精髓的综合实体,不仅有实体形态,还有丰富的概念形态,并具备许多人类特有的属性。其总体架构包括以下方面: 1. 大模型 LLM 扮演“大脑”。 2. 规划:包括子目标分解、反思与改进。子目标分解将大型任务分解为较小可管理的子目标以处理复杂任务;反思和改进可对过去的行动进行自我批评和反思,从错误中学习并改进未来步骤,提高最终结果质量。 3. 记忆。 此外,AI Agent 还具有以下特点和应用: 1. 能够自行规划任务执行的工作流路径,面向简单或线性流程的运行。 2. 可以实现多 Agent 协作,例如让大语言模型扮演不同角色,相互协作共同开发应用或复杂程序。
2024-11-04
用AI生成动画的教程
以下是用 AI 生成动画的一些教程: 1. 端午节动态视频: 可以使用即梦或 runway 等工具。如果要字不动,可以先在剪映里添加文字 logo 素材。 先什么关键词都不写,如果效果不满意,再添加关键词。 将视频放入剪映,放上 PNG 透明底图后导出。 2. Runway 生成 AI 动画: 使用图片+文字描述功能,将 MJ 生成的图片增加对应的动态描述,输入 Runway,同时增加镜头变换的设置。具体教程可查看。 3. 利用 AI 批量生成、模仿和复刻《小林漫画》(内含 coze 搭建视频教程): 作者景淮会带着大家试着搭建一个扣子(Coze)工作流来直接生成文字和图片。本文会按照需求分析、扣子搭建、扣子使用链接分享、批量生产图片、总结的顺序进行。
2024-11-17
学习coze的教程
以下是一些学习 Coze 的教程资源: 概览与介绍:https://waytoagi.feishu.cn/wiki/YGgzwDfWLiqsDWk2ENpcSGuqnxg 基础教程: 大圣:胎教级教程:万字长文带你使用 Coze 打造企业级知识库 https://waytoagi.feishu.cn/wiki/CT3UwDM8OiVmOOkohPbcV3JCndb 大聪明:保姆级教程:Coze 打工你躺平 https://waytoagi.feishu.cn/wiki/PQoUwXwpvi2ex7kJOrIcnQTCnYb 安仔:Coze 全方位入门剖析免费打造自己的 AI Agent https://waytoagi.feishu.cn/wiki/SaCFwcw9xi2qcrkmSxscxTxLnxb Coze “图像流”抢先体验 https://waytoagi.feishu.cn/wiki/AHs2whOS2izNJakGA1NcD5BEnuf YoYo:Coze 图像流小技巧:探索视觉艺术的隐藏宝藏 https://waytoagi.feishu.cn/wiki/CTajwJnyZizxlJk8a4AcJYywnfe 【智能体】让 Coze 智能体机器人连上微信和微信群详细配置文档 https://waytoagi.feishu.cn/wiki/ExHMwCDZ7i6NA7knCWucFvFvnvJ 一泽 Eze:万字实践教程,全面入门 Coze 工作流|用 Coze 打造 AI 精读专家智能体,复刻 10 万粉公众号的创作生产力 阅读指南:长文预警,请视情况收藏保存 核心看点:通过实际案例逐步演示,用 Coze 工作流构建一个能够稳定按照模板要求,生成结构化内容的 AI Agent;开源 AI Agent 的设计到落地的全过程思路;10+项常用的 Coze 工作流的配置细节、常见问题与解决方法 适合人群:任何玩过 AI 对话产品的一般用户(如果没用过,可以先找个国内大模型耍耍);希望深入学习 AI 应用开发平台(如 Coze、Dify),对 AI Agent 工作流配置感兴趣的爱好者 注:本文不单独讲解案例所涉及 Prompt 的撰写方法。文末「拓展阅读」中,附有相关 Prompt 通用入门教程、Coze 其他使用技巧等内容,以供前置或拓展学习。
2024-11-15
使用ai工具教程
以下是一些常见的 AI 工具使用教程: AI 画示意图: 假设您需要创建一个项目管理流程图,可以按照以下步骤使用 Lucidchart: 1. 注册并登录: 2. 选择模板:在模板库中搜索“项目管理流程图”。 3. 编辑图表:根据您的项目需求添加和编辑图形和流程步骤。 4. 优化布局:利用 AI 自动布局功能,优化图表的外观。 5. 保存和分享:保存图表并与团队成员分享,或导出为 PDF、PNG 等格式。 利用这些 AI 工具,您可以快速、高效地创建专业的示意图,满足各种工作和项目需求。 AI 视频相关: 以下是一些 AI 视频软件的教程链接: AI 线上绘画: 如果您在工作中需要用到大量图片,又想使用能够商用且具有较强艺术美感的图片,AI 生图是高效的解决办法。不论是人像、动物、自然风景或是人造景观的图,都可以用 AI 完成。 但主流的两款工具 midjourney(MJ)付费成本较高,stable diffusion(SD)硬件门槛不低。不过,还有像这样的免费在线 SD 工具网站。 本教程适用于入门玩家,计划让您在半个小时内自由上手创作绘图。如果半个小时内您无法理解工具如何使用,可通过评论区或加微信 designurlife1st(记得备注来意:ai 绘图交流)与作者联系。教程内容会持续更新,欢迎关注和催更。
2024-11-14
prompt 教程
以下是关于 prompt 教程的详细内容: 在 AI 视频生成中,prompt 是直接描述或引导视频生成的文本或指令,类似于给 AI 的提示,包含主体、运动、风格等信息,用户借此控制和指导生成内容。其作用十分重要,是表达需求的方式,影响视频内容和质量。如果上述过于抽象,您可以理解 Prompt 为:将您输入的文字变成对应的画面和运动形式。 Prompt 的专场教程 基础篇: 什么是 prompt(提示词):一段指令,用于指挥 AI 生成您所需要的内容,每个单独的提示词叫 tag(关键词)。 支持的语言:支持英语(不用担心英语不好的问题,),另外 emoji 也可以用。 语法规则: 用英文半角符号逗号,来分隔 tag。注意逗号前后有空格或者换行都不影响效果。 改变 tag 权重:tag 的顺序越靠前对于 SD 来说权重越大,但是依旧可以给每个位置上的 tag 单独设置权重。有两种写法:括号,权重就重 1.1 倍,每加一层括号就反向减弱 1.1 倍。 进行 tag 的步数控制(高级玩法):就是 SD 先按您输入的这个 tag1 开始生成,然后在达到您设定的步数之后,tag1 停止产生作用,此时 tag2 再参与到对内容生成的影响。,数字大于 1 理解为第 X 步前为 tag1,第 X 步后变成 tag2,数字小于 1 理解为总步数的百分之 X 前为 tag1,之后变成 tag2。
2024-11-14
prompt 教程
以下是关于 prompt 教程的详细内容: 在 AI 视频生成中,prompt 是直接描述或引导视频生成的文本或指令,类似于给 AI 的提示,包含主体、运动、风格等信息,用户借此控制和指导生成内容。其作用十分重要,是表达需求的方式,影响视频内容和质量。如果上述过于抽象,您可以理解 Prompt 为:将您输入的文字变成对应的画面和运动形式。 Prompt 的专场教程 基础篇: 什么是 prompt(提示词):一段指令,用于指挥 AI 生成您所需要的内容,每个单独的提示词叫 tag(关键词)。 支持的语言:支持英语(不用担心英语不好的问题,),另外 emoji 也可以用。 语法规则: 用英文半角符号逗号,来分隔 tag。注意逗号前后有空格或者换行都不影响效果。 改变 tag 权重:tag 的顺序越靠前对于 SD 来说权重越大,可通过两种写法设置权重。 :数值从 0.1 到 100,默认状态是 1,低于 1 就是减弱,大于 1 就是加强。 括号,权重就重 1.1 倍,每加一层括号就反向减弱 1.1 倍。 进行 tag 的步数控制(高级玩法):就是 SD 先按您输入的这个 tag1 开始生成,然后在达到您设定的步数之后,tag1 停止产生作用,此时 tag2 再参与到对内容生成的影响。,数字大于 1 理解为第 X 步前为 tag1,第 X 步后变成 tag2,数字小于 1 理解为总步数的百分之 X 前为 tag1,之后变成 tag2。 本文阅读时长大约 30 分钟,建议打开任意一款 SD 产品分屏对照使用。如果有地方觉得写得不够清晰,请在评论区激情发言,或者添加微信 designurlife1st 直接沟通(记得备注来意:ai 绘图交流)。
2024-11-14
prompt 教程
以下是关于 prompt 教程的详细内容: 在 AI 视频生成中,prompt 是直接描述或引导视频生成的文本或指令。它类似于给 AI 的提示,包含主体、运动、风格等信息,用户借此控制和指导生成内容。Prompt 在 AI 视频生成中作用十分重要,是表达需求的方式,影响视频内容和质量。如果上述过于抽象,您可以理解 Prompt 为:将您输入的文字变成对应的画面和运动形式。 Prompt 的专场教程 基础篇: 什么是 prompt(提示词):一段指令,用于指挥 AI 生成您所需要的内容,每个单独的提示词叫 tag(关键词)。 支持的语言:支持英语(不用担心英语不好的问题,),另外 emoji 也可以用。 语法规则: 用英文半角符号逗号,来分隔 tag。注意逗号前后有空格或者换行都不影响效果。 改变 tag 权重: :数值从 0.1 到 100,默认状态是 1,低于 1 就是减弱,大于 1 就是加强。 括号,权重就重 1.1 倍,每加一层括号就反向减弱 1.1 倍。 进行 tag 的步数控制(高级玩法):就是 SD 先按您输入的这个 tag1 开始生成,然后在达到您设定的步数之后,tag1 停止产生作用,此时 tag2 再参与到对内容生成的影响。,数字大于 1 理解为第 X 步前为 tag1,第 X 步后变成 tag2,数字小于 1 理解为总步数的百分之 X 前为 tag1,之后变成 tag2。 本文阅读时长大约 30 分钟,建议打开任意一款 SD 产品分屏对照使用。如果有地方觉得写得不够清晰,请在评论区激情发言,或者添加微信 designurlife1st 直接沟通(记得备注来意:ai 绘图交流)。
2024-11-14
可以调用不同大预言模型的整合工具推荐
以下是为您推荐的可以调用不同大语言模型的整合工具: 1. Poe:由 Quora 开发,有 APP 版本,支持跨端使用。集成了 Chat GPT、GPT4、Claude+、Claude、Dragonfly 等模型,同时支持用户自建 Chatbot。不同语言模型回复效果有差异,适合需要调用多种大语言模型的用户。访问地址: 。Dragonfly 擅长给出较短的回答,并擅长在输入中给出示例时遵循指示。Claude 更擅长创造性回复,配合 Poe 中的提问引导,非常适合在查阅资料时使用,有时能够给出超越直接使用 Chat GPT 时的体验(但和 Chat GPT 一样,Claude 也时常会给出一些错误回复,一些问题可以尝试在两个模型中都问一遍提升信息准确性)。此外支持分享用户和模型的对话内容,但 GPT4、Claude+产品需要付费订阅使用。 2. 国内的一些模型,如智谱和文心,在文生图方面有一定能力。 另外,大模型工具可根据自身条件准备,推荐顺序为:1. chatGPT 4.0 2. kimichat 3. 智谱清言 4 。
2024-11-12
有哪些工具直接可以调用国外的多个LLM
以下是一些关于能够调用国外多个 LLM 的相关信息: 开源项目作者 ailm 提出一种仅使用提示词工程和精巧的代码设计,让 LLM 获得稳定的 tool calling 能力,使用多个不具备该功能的 LLM 进行实验,成功率达 100%,工作基于 comfyui 开发,适合无代码基础的人员复现和修改。 在高级提示词工程领域,工具、连接器和技能的整合能显著增强 LLM 的能力。工具是指 LLM 可利用的外部功能或服务,扩展任务范围;连接器是 LLM 与外部工具或服务的接口,管理数据交换和通信;技能是 LLM 可执行的专门功能。 目前开源模型与专有产品存在差距但在缩小,如 Meta 的 LLaMa 模型引发一系列变体。当开源 LLM 达到一定准确度水平时,预计会有大量实验等。开发人员对 LLM 操作工具的研究尚不深入,一些工具如缓存(基于 Redis)、Weights & Biases、MLflow、PromptLayer、Helicone 等得到较广泛使用,还有新工具用于验证 LLM 输出或检测攻击。多数操作工具鼓励使用自身的 Python 客户端进行 LLM 调用。
2024-11-12
如何快速创建调用API的应用
以下是快速创建调用 API 应用的步骤: 1. 了解请求的组成部分: Body:用于传递请求主体,GET 方法中通常不使用。 Path:定义请求路径,GET 方法中可编码参数在其中。 Query:定义请求查询部分,是 GET 方法常用的参数传递方式。 Header:定义 HTTP 请求头信息,通常不用于传递参数。 2. 配置输出参数: 在配置输出参数界面,可自动解析或手动新增参数。 包括设置参数名称、描述、类型、是否必填等。 对于 Object 类型参数,可添加子项。 3. 调试与校验: 在调试与校验界面填写输入参数并运行。 查看输出结果,Request 为输入传参,Response 为返回值。 4. 发布:在插件详情页右上角点击发布。 以创建调用 themoviedb.org API 应用为例: 注册并申请 API KEY:前往 themoviedb.org 注册,依次点击右上角头像 账户设置 API 请求 API 密钥 click here,选择 Developer 开发者,填写相关信息并提交,获取 API 读访问令牌备用。 构建 GPT:新创建 GPT,设置名字和描述,添加 Instructions 内容,并添加 Webpilot Action 和粘贴相关 Schema 内容。
2024-11-08
字节跳动也被曝出在其秘密研发的大模型项目中存在违规调用 OpenAI 的 API ,你如何看待
2023 年下半年,部分声称性能卓越的中国大模型被揭露为“套壳”产品。如李开复创办的“零一万物”被国外开发者质疑为“套壳”产品,其团队承认在训练过程中沿用了开源架构,但强调是为快速起步。12 月,字节跳动被曝出在其秘密研发的大模型项目中调用了 OpenAI 的 API 并使用 ChatGPT 的输出数据来训练自己的模型。OpenAI 反应迅速坚决,暂停相关账号并表示将进一步调查。字节跳动回应称在 2023 年初技术团队在大模型探索初期有部分工程师将 GPT 的 API 服务用于较小模型的实验性项目研究,且自 2023 年 4 月引入调用规范检查后已停止。此外,不仅国内存在此类现象,24 年也有更多被指“套壳”的事件。同时,提示词攻击在业内是公开的秘密,国内外各大著名的 AI 厂商几乎无一幸免,系统提示处于泄露状态,大模型应用脆弱,数据易被获取。
2024-11-03
deepseek支持function calling,在dify的agent的prompt里要如何写才能调用工具。我说的是如何写提示词,才能让deepseek通过Function Calling调用工具。
要在 Dify 的 agent 的 prompt 里让 DeepSeek 通过 Function Calling 调用工具,您可以参考以下内容: 1. 提示词工程主要由提示词注入和工具结果回传两部分代码组成。 提示词注入:将工具信息及使用工具的提示词添加到系统提示中。INSTRUCTION 包含 TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT 三个部分。TOOL_EAXMPLE 用于提示 LLM 如何理解和使用工具,编写时注意用无关紧要的工具作示例避免混淆。tools_instructions 是将通用工具字典转换成 LLM 可读的工具列表,可动态调整。REUTRN_FORMAT 定义调用 API 的格式。 工具结果回传:利用正则表达式抓取输出中的“tool”和“parameters”参数。对于 interpreter 工具,使用另一种正则表达式提取 LLM 输出的代码。通过识别 LLM 返回的调用工具的字典,提取对应值传入工具函数,将结果以 observation 角色返回给 LLM,对于不接受该角色的 LLM 接口,可改为回传给 user 角色。 2. 当模型判断需要调用工具函数时,检测到返回的 json 里 function_call 字段不为空,则执行异步函数调用,采用回调方式获取函数返回结果。通过判断返回的 functionCall 的名称执行不同函数并返回结果。 3. 在大模型请求中,最大的两个变量是 Messages 和 Tools。Messages 里放 sys prompt、memory、user query;Tools 里放能力的 Json Scheme,两者组合形成整个完全的 Prompt。Agent 应用开发的本质是动态 Prompt 拼接,通过工程化手段将业务需求转述成新的 prompt。短期记忆在 messages 里的历史 QA 对,长期记忆是 summary 之后的文本再塞回 system prompt。RAG 是向量相似性检索,可放在 system prompt 里或通过 tools 触发检索。Action 是触发 tool_calls 标记进入请求循环,拿模型生成的请求参数进行 API request,再把结果返回给大模型交互,没有 tool_calls 标记则循环结束。Multi Agents 是更换 system prompt 和 tools。
2024-10-24
deepseek支持function calling,在dify的agent的prompt里要如何写才能调用工具
在 Dify 的 agent 的 prompt 中实现调用工具的方法如下: 1. 提示词注入阶段: INSTRUCTION 为注入到系统提示中的字符串,包含 TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT 三个部分。 TOOL_EAXMPLE 用于提示 LLM 如何理解和使用工具,编写时应使用无关紧要的工具作为示例,避免 LLM 混淆。 tools_instructions 是将通用的工具字典转换成 LLM 可读的工具列表,实际使用时可动态调整。 REUTRN_FORMAT 定义了调用 API 的格式。 2. 工具结果回传阶段: 利用正则表达式抓取输出中的“tool”和“parameters”参数。 对于 interpreter 工具,使用另一种正则表达式提取 LLM 输出的代码,提高使用成功率。 通过识别 LLM 返回的调用工具的字典,提取对应的值,传入相应的工具函数,将工具返回的结果以 observation 的角色返回给 LLM。对于不接受该角色的 LLM 接口,可改为回传给 user 角色。 此外,当模型判断需要调用工具函数时,即检测到返回的 json 里面 function_call 字段不为空,则执行异步函数调用,可通过判断返回的 functionCall 的名称来执行不同的函数并返回结果。 在提升可控性方面,有以下建议: 1. 放弃 JSON mode,虽然模型能力提升能输出 JSON,但仍会出错,且不能保证 100%正确,而模型厂家对 Function Calling 有微调优化。 2. 降低 System prompt 依赖,化繁为简,能在 Tools 里写的东西尽量写在里面。 3. API Response 增强 Prompt,这一步的准确率很高,可增加给大模型的约束和提示。 4. 尽量让模型做选择,而不是填空,减少 token 输出,提高速度和准确率。 5. 利用 Tools 来做 Route,构建 Multi Agent,术业有专攻。
2024-10-24
ldap和ad之间是什么关系
LDAP(轻型目录访问协议)是一种用于访问和管理目录服务的开放协议。AD(Active Directory)是微软基于 LDAP 协议开发的一种目录服务。 AD 利用了 LDAP 协议的特性来实现对网络资源和用户的集中管理、认证和授权等功能。可以说 AD 是基于 LDAP 协议构建的一个具体的、功能丰富的目录服务系统。 总的来说,LDAP 是一种通用的协议,而 AD 是基于 LDAP 协议的特定实现,并针对微软的环境进行了优化和扩展。
2024-11-12
. 了解射频识别技术的基本原理及常见应用。 2. 能够利用射频识别技术开展实践,了解物与物 之间近距离通信的过程。 第7课 电子标签我揭秘 7.1 乘坐火车时,人们只需拿身份证在检票机上刷一下,便能顺利通过检票 闸机,进出火车站。在这个过程中,正是 RFID 技术在发挥作用。 揭秘射频识别技术 本课将关注以下问题: 1. RFID 系统的工作流程是怎样的? RFID 是一种物品标识和自动识别技术,本质上是一种无线通信技术, 无须与被识别物品直接接触。RFID 系统由电子标签和读卡器组成(图 7
射频识别(RFID)技术是一种物品标识和自动识别的无线通信技术,无需与被识别物品直接接触。RFID 系统由电子标签和读卡器组成。 其基本原理是:读卡器发射特定频率的无线电波,当电子标签进入有效工作区域时,产生感应电流,从而获得能量被激活,并向读卡器发送自身编码等信息,读卡器接收并解码后,将信息传送给后台系统进行处理。 常见应用包括:乘坐火车时的身份证检票,物流领域的货物追踪管理,图书馆的图书借还管理,超市的商品结算等。 在利用射频识别技术开展实践时,能够了解物与物之间近距离通信的过程。例如在物流中,货物上的电子标签与读卡器之间通过无线电波进行信息交互,实现对货物的实时监控和管理。 RFID 系统的工作流程大致为:读卡器发射无线电波,激活电子标签,电子标签向读卡器发送信息,读卡器接收并解码信息后传送给后台系统。
2024-10-21
agi是什么,aigc又是什么,他们之间有什么区别
AGI 即通用人工智能(Artificial General Intelligence),是一种目标,旨在让机器展现出像人类一样的广泛智慧和能力。 AIGC 是人工智能生成内容(Artificial Intelligence Generated Content),是利用人工智能技术生成包括文本、图像、音频和视频等各种类型内容的新型生产方式。AIGC 技术可应用于自动撰写新闻文章、生成艺术画作、创作音乐、制作视频游戏内容等多种领域。 它们的区别在于:AGI 追求的是机器具备全面的、类似人类的智能,而 AIGC 侧重于利用人工智能技术来生成特定的内容。 AIGC 与 UGC(用户生成内容)、PGC(专业生成内容)的关系如下: AIGC 是由人工智能生成的内容,优势在于能快速、大规模生成内容,适用于需大量内容的场景,如自动化新闻、广告创作等。 UGC 是由用户生成的内容,优势在于内容丰富多样,能反映用户真实想法和创意,适用于社交媒体、社区论坛等互动性强的平台。 PGC 是由专业人士或机构生成的内容,优势在于内容质量高、专业性强,适用于新闻媒体、专业网站等需要高质量内容的平台。
2024-10-20
文心一言、通义千问、Kimi、腾讯混元、讯飞星火、抖音豆包、智普清言这些AI工具之间有什么不同,各自擅长哪些领域
以下是文心一言、通义千问、Kimi、腾讯混元、讯飞星火、抖音豆包、智普清言这些 AI 工具的不同之处及各自擅长的领域: Kimi 智能助手:由 Moonshot AI 出品,有着超大“内存”,可以一口气读完二十万字的小说,还会上网冲浪。 文心一言:百度出品的 AI 对话产品,定位为智能伙伴,能写文案、想点子,陪聊天、答疑解惑,与搜索有较好的结合。 通义千问:由阿里云开发的聊天机器人,能够与人交互、回答问题及协作创作,与钉钉有结合应用。 腾讯混元:相对较为低调,公司文化特点及目前尚未有明确亮点可能是其受到关注较少的原因。 讯飞星火:暂未提及具体特点和擅长领域。 抖音豆包:字节旗下产品,字节在 AI 领域有较大投入和决心,如推出多种相关产品和应用。 智普清言:暂未提及具体特点和擅长领域。 需要注意的是,这些 AI 工具的性能和擅长领域可能会随着不断的更新和优化而发生变化。
2024-08-18
不同大模型之间会相互串联吗?
目前不同大模型之间一般不会直接相互串联。 大模型的发展仍在不断演进中。在语言模型方面,Token 被视为模型处理和生成的文本单位,输入文本会被分词数字化形成词汇表,为便于计算机处理,还会将 Token 表示成稠密矩阵向量,即 embedding,常见算法包括基于统计、深度网络和神经网络的多种方式。以 Transformer 为代表的大模型采用自注意力机制来学习不同 token 之间的依赖关系,生成高质量 embedding。 多模态大模型方面,虽然取得了重大进展,但面临着巨大的计算量问题。研究重点在于各模态的连接,合理利用现成的训练好的单模态基础模型,减少训练费用并提升效率。不同模态的模型通常是分开训练的,如何将它们连接起来实现协同推理是核心挑战,主要通过多模态预训练和多模态的指令微调来实现模态之间以及模型输出与人类意图的对齐。 在企业应用中,大模型还未发展到通用人工智能阶段,不能期望一个大模型解决所有问题。在企业内部,更可能是多个专注于不同专业的大模型通过协作和组合来工作。
2024-07-21
大语言模型,AI,AIGC和AGI他们之间是什么关系?
大语言模型、AI、AIGC 和 AGI 是人工智能领域中常用的几个概念,它们之间的关系如下: 1. AI(人工智能):是指能够执行人类智能任务的计算机程序,例如推理、学习、感知和行动。AI 是一个广泛的概念,包括机器学习、深度学习、自然语言处理、计算机视觉等多个领域。 2. AIGC(生成式人工智能):是指利用 AI 技术,特别是深度学习,来生成新的文本、图像、音频或视频等内容的过程。AIGC 是 AI 的一个子集,专注于生成式任务。 3. LLM(大型语言模型):是一种特殊类型的 AI 模型,专门用于处理自然语言处理(NLP)任务。LLM 是一种基于深度学习的模型,通过在大量文本数据上进行无监督学习,来学习语言的模式和结构。LLM 可以用于各种 NLP 任务,例如文本生成、机器翻译、问答系统等。 4. AGI(通用人工智能):是指能够执行人类智能任务的计算机程序,并且具有人类智能的一些关键特征,例如理解、学习、推理和行动。AGI 是 AI 的一个理想目标,目前还没有实现。 总的来说,AI 是一个广泛的概念,包括 AIGC 和 LLM 等子集。AIGC 是 AI 的一个子集,专注于生成式任务,而 LLM 是 AI 的一个子集,专注于 NLP 任务。AGI 是 AI 的一个理想目标,目前还没有实现。
2024-05-10