创建一个 AI agent 可以参考以下内容:
AI Agent也就是我们所说的AI智能体,那什么是AI智能体呢?简单来说就是拥有各项能力的打工人来帮我们做特定的事情。目前有不少大厂推出自己的AI智能体平台,像字节的扣子,阿里的魔搭社区等等,体验过GPT或者文心一言大模型的小伙伴应该都知道,现在基本可以用自然语言来编程了,相当于降低了编程的门槛,另外之前在使用GPT或者文心一言大模型的时候会出现胡编乱造的情况以及时效性、无法满足个性化需求等问题,如果这些不解决的话,AI很难被真正广泛应用,而AI智能体的出现正是解决这些问题的绝佳方式,AI智能体包含了自己的知识库、工作流、还可以调用外部工具,再结合大模型的自然语言理解能力,就可以完成比较复杂的工作。所以AI智能体的出现就是结合自己的业务场景,针对自己的需求,捏出自己的AI智能体来解决自己的事情。[heading2]扣子Coze[content]📢扣子官网:[https://www.coze.cn/](https://www.coze.cn/)扣子(Coze),作为字节跳动旗下的新一代一站式AI Bot开发平台,无论用户是否具备编程基础,都能在该平台上迅速构建基于AI模型的各类问答Bot。这些Bot的功能涵盖了从解决简单问答到处理复杂逻辑对话的广泛范围。当我们开发完成后,还可以将自己构建的Bot发布到各种社交平台和通讯软件上,让更广泛的用户群体能够与这些Bot进行交互聊天。[heading2]竖起耳朵听的创建[content]我们可以通过简单3步创建智能体,首先我们要起一个智能体的名称,然后写一段智能体的简单介绍,最后使用AI创建一个头像即可。
图10.1.1创建AI Agent的两种手段(来自李博杰的个人博客)不过,虽然Prompt在激活和运用AI Agent的“大脑模块”中扮演着关键角色,但它并非没有缺点。一个很直观的问题是:使用的Prompt越长,消耗的Token也就越多。一个公众人物公开披露的个人信息(身份、言行等),转换成Token数可能高达数百万。这还不考虑模型是否能够处理这么多Token的问题,仅仅是每次推理所需支付的成本——无论是金钱还是时间——都可能非常高昂。所以,单纯通过Prompt来构建大脑模块(Prompt-tuning),一般适合“无趣的灵魂”,即拟人化不是那么重的情况。紧接上面的总结,那”有趣的灵魂"咋办呢?目前,针对"有趣的灵魂"最直接的解决方式就是通过微调一个定向模型来达到上述效果。与Prompt相比,基于微调的方法可以视为将信息直接“记忆”在AI的“大脑模块”中。微调过程本质上是一个信息压缩和整合的过程,它能将例如三万条推特中的零散信息有效地整理并嵌入到大型模型的权重中,且权重占比不到1%。这种方法不仅提高了信息提取的效率,还减少了每次查询或应用时所需处理的数据量,从而优化了性能和成本。"面对有趣的灵魂",一般创建方式是两种结合,即Prompt-tuning +Fine-tuning。
图10.1.1创建AI Agent的两种手段(来自李博杰的个人博客)不过,虽然Prompt在激活和运用AI Agent的“大脑模块”中扮演着关键角色,但它并非没有缺点。一个很直观的问题是:使用的Prompt越长,消耗的Token也就越多。一个公众人物公开披露的个人信息(身份、言行等),转换成Token数可能高达数百万。这还不考虑模型是否能够处理这么多Token的问题,仅仅是每次推理所需支付的成本——无论是金钱还是时间——都可能非常高昂。所以,单纯通过Prompt来构建大脑模块(Prompt-tuning),一般适合“无趣的灵魂”,即拟人化不是那么重的情况。紧接上面的总结,那”有趣的灵魂"咋办呢?目前,针对"有趣的灵魂"最直接的解决方式就是通过微调一个定向模型来达到上述效果。与Prompt相比,基于微调的方法可以视为将信息直接“记忆”在AI的“大脑模块”中。微调过程本质上是一个信息压缩和整合的过程,它能将例如三万条推特中的零散信息有效地整理并嵌入到大型模型的权重中,且权重占比不到1%。这种方法不仅提高了信息提取的效率,还减少了每次查询或应用时所需处理的数据量,从而优化了性能和成本。"面对有趣的灵魂",一般创建方式是两种结合,即Prompt-tuning +Fine-tuning。