以下是关于测试大模型工具的相关内容：
使用 Coze IDE 创建插件：
获取字节火山 DeepSeek 系列 API 完整教程及使用方法：
无需微调，仅用提示词工程就能让 LLM 获得 tool calling 的功能： 绝大多数小型本地开源大语言模型以及部分商用大模型接口不支持稳定的 tool calling 功能，现有的微调 LLM 解决方案会浪费大量时间和算力。本文提出仅使用提示词工程和精巧的代码设计，即可让 LLM 获得稳定的 tool calling 能力，使用多个不具备该功能的 LLM 作为测试模型，在多个工具调用任务上实验成功率为 100%，基于 comfyui 开发，适合无代码基础的人员复现和修改。
以下是一个网页搜索工具的元数据，当Bot内添加了该工具后，模型会根据工具的元数据信息，在收到匹配的用户查询语句时，调用工具处理用户任务。例如，如果用户发送消息查询上海天气，Bot将会使用该工具响应用户。元数据配置说明：|配置项|描述||-|-||名称|工具名称。建议输入清晰易理解的名称，便于后续大语言模型搜索与使用工具。||描述|工具的描述信息，一般用于记录当前工具的用途。||启用|是否启用当前工具。使用说明：<br>如果工具未开发测试完成，建议先禁用该工具，只启用并发布已通过测试的工具。<br>如果需要下线某一工具，可将该工具设置为禁用，并再次发布插件。<br>如果插件中只有一个工具，则不支持禁用该工具。如需下线该工具，您可以选择直接删除该插件，或者创建另一个工具并完成开发测试后，再禁用该工具，最后发布插件。||输入参数|当前工具对应接口的输入参数信息。准确、清晰易理解的参数名称、描述等信息，可以让大语言模型更准确的使用工具。||输出参数|当前工具对应接口的输出参数信息。准确、清晰易理解的参数名称、描述等信息，可以让大语言模型更准确的使用工具。|1.在页面右侧单击测试代码图标并输入所需的参数，然后单击Run测试工具。如果您在元数据设置了输入参数，可单击自动生成图标，由IDE生成模拟数据，您只需要调整参数值即可进行测试。
既然已经部署完成，我们来使用一道“2024年高考全国甲卷理科数学”压轴题来测试一下R1的速度。面对这个复杂的推理问题，火山引擎的DeepSeek-R1的推理速度，足足比官方版本的快了“3分34秒”。在问题提出后，能够明显感受到火山引擎接口的延迟非常低，发出去问题的一瞬间就得到了回复。（因耗时长，剪辑时做了60倍加速）看着满屏流畅的推理日志，突然有些恍惚。曾几何时，大模型于开发者而言是隔着API的神秘黑箱，是算力成本与响应速度的艰难取舍，两年前第一次调用GPT-3.5接口时，盯着计费面板上跳动的数字，手心微微发汗——每千Token近4毛钱的价格，让每次点击回车键都像在投掷硬币。那时的我们不会想到，大模型赛道的狂奔会如此剧烈：从硅谷到北京，无数工程师用成山的GPU与代码重构了技术普惠的刻度。恍然惊觉这两年的光阴里，模型厂商们竟把算力的“黄金”炼成了“氧气”。这是AI浪潮中的动人叙事：当技术突破撞上工程化巨浪，曾经实验室里的星辰开始照亮普通开发者的键盘。或许，当你看着教程，敲下第一个API调用时也会像我一样听见时代齿轮与代码共鸣的清脆声响。
大家好，我是一个开源项目作者ailm。目前，绝大多数小型本地开源大语言模型以及部分商用大模型接口都不支持稳定的tool calling功能。而现有的解决方案是微调LLM，这导致大量的时间和算力被浪费。本文提出一种仅使用提示词工程和一些精巧的代码设计，即可让LLM获得稳定的tool calling能力。本文使用多个不具备tool calling能力的LLM作为测试模型，在多个工具调用任务上进行实验，成功率为100%。本文所有工作是基于comfyui开发，适合完全没有代码基础的小伙伴们复现并且按自己的想法修改我的工作。