直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

Function Calling 是什么

回答

Function Calling 是一种将大语言模型（如 ChatGPT）的能力与外部工具和 API 连接起来的新方法。

在 OpenAI 的 0613 版本中更新了此功能。开发人员可以向 gpt-4-0613 和 gpt-3.5-turbo-0613 描述函数，让模型智能地选择输出一个包含调用这些函数所需参数的 JSON 对象。

Function Calling 到来之前，使用 Json Output 存在诸多缺陷，如 JSON 格式非常标准，输出一个错的 token 就会异常；模型上下文短；模型难以在单个请求里完成多个复杂任务；大模型废话多；工程化复杂且维护成本高等。

Function Calling 实现的方式大大降低了所有 LLMs 应用开发的难度，例如降低了 Prompt 维护成本，实现了 System Prompt 和 Function 解耦。本地可以写函数执行特定操作，如 this.app.mysql.select(table,condition)，也可以根据 GPT 返回的函数名和参数来查询数据，还可以将函数改为 SQL 查询 this.app.mysql.query(sql)，使操作更为灵活。

内容由 AI 大模型生成，请仔细甄别（powered by aily）

参考资料

ChatGPT 助力数据分析：实际案例与技巧

可以发现为了让ChatGPT返回符合要求的JSON格式，prompt的定制就尤为重要和复杂。好消息是，在当地时间6月13日，OpenAI发布函数调用及其他API更新。现在开发人员可以向gpt-4-0613和gpt-3.5-turbo-0613描述函数，并让模型智能地选择输出一个包含调用这些函数所需参数的JSON对象。这是一种更可靠地将GPT的能力与外部工具和API连接起来的新方法。传送门：[Function calling and other API updates](https://openai.com/blog/function-calling-and-other-api-updates)官网有很详细的例子，这里就不再描述代码了。我用本文案例总结大致流程：有个好处是不需要让ChatGPT生成SQL了，减少SQL注入的风险。本地写一个函数执行this.app.mysql.select(table,condition)，根据GPT返回的函数名、参数（字段和where）来查询数据，更为安全。但这个方法又有局限性，事先定义函数查询不如SQL查询来的灵活，所以这里也可以让函数改为SQL查询this.app.mysql.query(sql)，GPT的函数调用改为：getSqlQuery(sql:string)，函数名getSqlQuery，参数：sql，更为灵活。总结：让GPT与函数调用结合，本地控制返回JSON格式，prompt的定制更为简单，AI的输出更为可控。根据实际业务需求采用函数查询或SQL查询，值得一试！

AI Agent产品经理血泪史（一）：一年来我摸过的那些石头【Tools篇】

在OpenAI的Function Calling到来之前，其实很多人都意识到了需要这样一个东西，因为Action是Agent不可或缺的一环。但那会OpenAI还在很努力地做自己的Plugin商店（后来死了），国内模型厂家还在起名字。有些大神也通过这种方式在做一些牛逼的实现Langchain早期Agent的实现，以及它的Output parse；AutoGPT的爆火，Planning & Execute的实现以及后面的Baby AGI；….还有很多但是Json Output天然存在很多缺陷：1、JSON的格式其实是非常标准的，但凡输出一个错的token，就异常了；2、那会模型的上下文还很短，整个窗口才4096，GPT-4是8K和32K，但是太贵啊；3、模型其实是很难在单个请求里去完成多个复杂任务的，即使到今天也很难；4、大模型真的废话很多，你必须不断强调：“不要讲废话”；5、工程化复杂，维护成本高…..还有一箩筐理由下面这个图是AutoGPT当时的Prompt，这句话必不可少在OpenAI的0613版本中，更新了Function Calling的功能。那天晚上，我激动地一晚上没睡，连夜改需求，优雅，实在是太优雅了。Function Calling实现的方式，让所有LLMs应用开发的难度大大降低：1、Prompt维护成本降低，System Prompt和Function解耦；

AI Agent产品经理血泪史（一）：一年来我摸过的那些石头【Tools篇】

在OpenAI的Function Calling到来之前，其实很多人都意识到了需要这样一个东西，因为Action是Agent不可或缺的一环。但那会OpenAI还在很努力地做自己的Plugin商店（后来死了），国内模型厂家还在起名字。有些大神也通过这种方式在做一些牛逼的实现Langchain早期Agent的实现，以及它的Output parse；AutoGPT的爆火，Planning & Execute的实现以及后面的Baby AGI；….还有很多但是Json Output天然存在很多缺陷：1、JSON的格式其实是非常标准的，但凡输出一个错的token，就异常了；2、那会模型的上下文还很短，整个窗口才4096，GPT-4是8K和32K，但是太贵啊；3、模型其实是很难在单个请求里去完成多个复杂任务的，即使到今天也很难；4、大模型真的废话很多，你必须不断强调：“不要讲废话”；5、工程化复杂，维护成本高…..还有一箩筐理由下面这个图是AutoGPT当时的Prompt，这句话必不可少在OpenAI的0613版本中，更新了Function Calling的功能。那天晚上，我激动地一晚上没睡，连夜改需求，优雅，实在是太优雅了。Function Calling实现的方式，让所有LLMs应用开发的难度大大降低：1、Prompt维护成本降低，System Prompt和Function解耦；

其他人在问
deepseek支持function calling，在dify的agent的prompt里要如何写才能调用工具。我说的是如何写提示词，才能让deepseek通过Function Calling调用工具。
要在 Dify 的 agent 的 prompt 里让 DeepSeek 通过 Function Calling 调用工具，您可以参考以下内容： 1. 提示词工程主要由提示词注入和工具结果回传两部分代码组成。 提示词注入：将工具信息及使用工具的提示词添加到系统提示中。INSTRUCTION 包含 TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT 三个部分。TOOL_EAXMPLE 用于提示 LLM 如何理解和使用工具，编写时注意用无关紧要的工具作示例避免混淆。tools_instructions 是将通用工具字典转换成 LLM 可读的工具列表，可动态调整。REUTRN_FORMAT 定义调用 API 的格式。 工具结果回传：利用正则表达式抓取输出中的“tool”和“parameters”参数。对于 interpreter 工具，使用另一种正则表达式提取 LLM 输出的代码。通过识别 LLM 返回的调用工具的字典，提取对应值传入工具函数，将结果以 observation 角色返回给 LLM，对于不接受该角色的 LLM 接口，可改为回传给 user 角色。 2. 当模型判断需要调用工具函数时，检测到返回的 json 里 function_call 字段不为空，则执行异步函数调用，采用回调方式获取函数返回结果。通过判断返回的 functionCall 的名称执行不同函数并返回结果。 3. 在大模型请求中，最大的两个变量是 Messages 和 Tools。Messages 里放 sys prompt、memory、user query；Tools 里放能力的 Json Scheme，两者组合形成整个完全的 Prompt。Agent 应用开发的本质是动态 Prompt 拼接，通过工程化手段将业务需求转述成新的 prompt。短期记忆在 messages 里的历史 QA 对，长期记忆是 summary 之后的文本再塞回 system prompt。RAG 是向量相似性检索，可放在 system prompt 里或通过 tools 触发检索。Action 是触发 tool_calls 标记进入请求循环，拿模型生成的请求参数进行 API request，再把结果返回给大模型交互，没有 tool_calls 标记则循环结束。Multi Agents 是更换 system prompt 和 tools。
2024-10-24
deepseek支持function calling，在dify的agent的prompt里要如何写才能调用工具
在 Dify 的 agent 的 prompt 中实现调用工具的方法如下： 1. 提示词注入阶段： INSTRUCTION 为注入到系统提示中的字符串，包含 TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT 三个部分。 TOOL_EAXMPLE 用于提示 LLM 如何理解和使用工具，编写时应使用无关紧要的工具作为示例，避免 LLM 混淆。 tools_instructions 是将通用的工具字典转换成 LLM 可读的工具列表，实际使用时可动态调整。 REUTRN_FORMAT 定义了调用 API 的格式。 2. 工具结果回传阶段： 利用正则表达式抓取输出中的“tool”和“parameters”参数。 对于 interpreter 工具，使用另一种正则表达式提取 LLM 输出的代码，提高使用成功率。 通过识别 LLM 返回的调用工具的字典，提取对应的值，传入相应的工具函数，将工具返回的结果以 observation 的角色返回给 LLM。对于不接受该角色的 LLM 接口，可改为回传给 user 角色。 此外，当模型判断需要调用工具函数时，即检测到返回的 json 里面 function_call 字段不为空，则执行异步函数调用，可通过判断返回的 functionCall 的名称来执行不同的函数并返回结果。 在提升可控性方面，有以下建议： 1. 放弃 JSON mode，虽然模型能力提升能输出 JSON，但仍会出错，且不能保证 100%正确，而模型厂家对 Function Calling 有微调优化。 2. 降低 System prompt 依赖，化繁为简，能在 Tools 里写的东西尽量写在里面。 3. API Response 增强 Prompt，这一步的准确率很高，可增加给大模型的约束和提示。 4. 尽量让模型做选择，而不是填空，减少 token 输出，提高速度和准确率。 5. 利用 Tools 来做 Route，构建 Multi Agent，术业有专攻。
2024-10-24
deepseek支持function calling，prompt里要如何写才能调用工具。
要在 DeepSeek 中通过提示词实现工具调用，主要通过以下提示词工程实现： 1. 实现原理： 提示词工程主要由提示词注入和工具结果回传两部分代码组成。提示词注入将工具信息及使用提示词添加到系统提示中，工具结果回传则解析工具调用的输出，并将返回内容嵌入 LLM。 2. 提示词注入阶段： INSTRUCTION 为注入到系统提示中的字符串，包含 TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT 三个部分。TOOL_EAXMPLE 用于提示 LLM 理解和使用工具，编写时应使用无关紧要的工具作示例避免混淆。tools_instructions 是将通用工具字典转换为 LLM 可读的工具列表，实际使用时可动态调整。REUTRN_FORMAT 定义了调用 API 的格式。 3. 工具结果回传阶段： 利用正则表达式抓取输出中的“tool”和“parameters”参数。对于 interpreter 工具，使用另一种正则表达式提取 LLM 输出的代码以提高成功率。通过识别 LLM 返回的调用工具字典，提取对应值传入工具函数，将结果以 observation 角色返回给 LLM，对于不接受该角色的 LLM 接口，可改为回传给 user 角色。 在游戏实操中，当模型判断需要调用工具函数时（检测到返回的 json 里 function_call 字段不为空），执行异步函数调用，采用回调方式获取函数返回结果，通过判断返回的 functionCall 名称执行不同函数并返回结果。 对于 ChatGPT，为让其返回符合要求的 JSON 格式，prompt 的定制尤为重要和复杂。OpenAI 发布函数调用及其他 API 更新后，开发人员可向 gpt40613 和 gpt3.5turbo0613 描述函数，让模型智能输出包含调用函数所需参数的 JSON 对象。本地可根据 GPT 返回的函数名、参数进行数据查询，可采用函数查询或 SQL 查询，根据实际业务需求选择，使 AI 输出更可控。
2024-10-24
Function Calling in AI
以下是关于“Function Calling in AI”的相关内容： 函数调用为 AI 系统带来了诸多重要优势，包括大大简化用户体验，使用户无需在模型和应用程序间繁琐地复制粘贴信息，过程更流畅直观；显著减少错误发生的可能性，降低输入不正确信息的风险，提高准确性；为更高级的自动化开辟道路，能够处理如酒店预订或制定旅行计划等复杂操作，用户通过简单的语音命令就能完成一系列复杂任务，重新定义了人与技术的互动方式。 在 ChatGPT 中，为让其返回符合要求的 JSON 格式，prompt 的定制尤为重要和复杂。OpenAI 于当地时间 6 月 13 日发布函数调用及其他 API 更新，开发人员可向 gpt40613 和 gpt3.5turbo0613 描述函数，让模型智能输出包含调用函数所需参数的 JSON 对象，这是将 GPT 能力与外部工具和 API 连接的新方法。结合 GPT 与函数调用，本地控制返回 JSON 格式，prompt 定制更简单，AI 输出更可控，可根据实际业务需求选择函数查询或 SQL 查询。 在 AI 智能体方面，工具使用或函数调用通常被视为从 RAG 到主动行为的第一个半步，为现代人工智能栈增加新层。工具本质是预先编写的代码组件，执行特定操作，如网页浏览、代码解释和授权认证等。系统向 LLM 呈现可用工具，LLM 选择工具、构建必要的结构化 JSON 输入并触发 API 执行以产生最终操作。Omni 的“计算 AI”功能体现了这种方法，利用 LLM 直接输出适当的 Excel 函数到电子表格中执行计算并自动生成复杂查询供用户使用。但工具使用仅凭自身不能视为“主动性”，逻辑控制流程仍由应用程序预先定义。
2024-10-22
Function Calling
Function Calling 是一种将模型的能力与外部工具和 API 连接起来的方法。 在 OpenAI 方面，当地时间 6 月 13 日发布函数调用及其他 API 更新。开发人员可向 gpt40613 和 gpt3.5turbo0613 描述函数，让模型智能输出包含调用函数所需参数的 JSON 对象。例如，本地写函数执行 this.app.mysql.select，让 GPT 与函数调用结合，控制返回 JSON 格式，使 prompt 定制更简单，AI 输出更可控。 在谷歌 Gemini 方面，在从事金融业务的用例中，如搜索欧元兑美元的当前汇率，需做好配置，使用 Gemini 1.5 Flash 模型。函数调用为 AI 系统带来诸多优势，如简化用户体验、减少错误发生可能性、为更高级自动化开辟道路，能处理如酒店预订或制定旅行计划等复杂操作，重新定义了人与技术的互动方式。
2024-10-12
deepseek支持function calling吗
DeepSeek API 支持 Function Calling 功能。这项功能允许模型调用外部工具以增强其能力。例如，可以使用 Function Calling 获取用户所在地点的当前天气信息。具体的 API 格式可以在 DeepSeek API 的 Chat Completion 文档中找到示例和详细信息 。 此外，DeepSeek API 最近更新了，其中包括了对 Function Calling 的支持。更新的接口 `/chat/completions` 现在支持 JSON 输出、Function Calling、对话前缀续写（Beta）、8K 最长输出（Beta），并且新增了 `/completions` 接口，其中包括 FIM 补全（Beta）。所有这些新功能都可以使用 `deepseekchat` 和 `deepseekcoder` 模型调用 。
2024-08-05