以下是一些 AI 智能体在企业中的应用案例:
我们将探讨的第一类智能体是决策智能体,它们使用智能体决策制定在复杂、多步骤的推理流程中导航并做出业务决策。与RAG或工具使用方法不同,这种架构首次将一定的控制逻辑交给LLMs,而不是预先设定所有步骤-但仍位于智能体自由度范围的较低端,因为智能体主要作为路由器导航一组预先确定的决策树。让我们以[Anterior](https://www.anterior.com/)(前称Co:Helm)为例。该健康计划自动化公司开发了一个临床决策引擎,用于自动化理赔提交审核。护士们如今凭借装满条件知识(就像世界上最无聊的"自选冒险")的付款人规则手册,人工完成这些审核。Anterior简化了这个过程。该公司首先将付款方规则转换为有向无环图(DAG),使用基于规则的脚本和语言模型。然后,他们的智能体遍历这个决策树,在每个节点利用LLMs来评估相关的临床文件是否符合特定的规则。对于较简单的节点,这可能涉及基本的检索增强型生成(RAG)步骤。但是,Anterior经常遇到需要子链的更复杂的任务,在这种情况下,智能体必须选择最佳方法,然后才能进入下一个节点。它会在每次决策时更新自己的状态(在内存中管理这些中间输出),并一直进行到最终确定。前者并非独一无二的采取这种方法。其他领域也在利用决策智能体,包括[Norm AI](https://norm.ai/)正在为监管合规打造AI智能体,以及[Parcha](https://www.parcha.com/)正在为KYC建立智能体。
设置基线:RAG是当今大多数现代人工智能应用程序的标准架构。让我们以Sana的企业搜索用例为例,了解它在幕后的工作原理。该过程始于应用程序加载和转换无结构文件(如PDF、幻灯片、文本文件)跨越企业数据孤岛,如Google Drive和Notion,转换为LLM可查询格式,通常通过像[Unstructured](https://menlovc.com/portfolio/unstructured/)*这样的数据预处理引擎进行。这些文件现在被"分块"成更小的文本块,以实现更精确的检索,并作为向量嵌入和存储在像[Pinecone](https://menlovc.com/portfolio/pinecone/)*这样的数据库中。当用户向AI应用程序提出问题时(例如,"总结我与公司X会议的所有笔记"),系统会检索语义上最相关的上下文块,并将其折叠到"元提示"中,与检索到的信息一起馈送给LLM。然后,LLM会从检索到的上下文中合成一个整洁的带有项目符号的答复返回给用户。当然,该图仅说明了一个带有一个LLM调用的单一检索步骤。在生产中,AI应用程序具有更复杂的应用程序流程,包含数十甚至数百个检索步骤。这些应用程序通常具有"提示链",其中一个检索步骤的输入馈送到下一步,并且不同类型的任务并行执行多个"提示链"。然后将结果综合在一起,以生成最终输出。[Eve](https://menlovc.com/portfolio/eve/)*法律研究的共同驾驭员,例如,可能会将针对《第七篇》的研究查询分解为专注于预定子主题的独立提示链,如雇主背景、就业历史、《第七篇》、相关案例法和原告案件支持证据。LLMs然后运行每个提示链,为每个生成中间输出,并综合各输出编写最终备忘录。
生成式AI应用当前有三个核心用例与强大的产品市场契合度:搜索、合成和生成。Menlo Ventures投资组合公司如[Sana](https://menlovc.com/portfolio/sana-labs/)*(企业搜索)、[Eve](https://menlovc.com/portfolio/eve/)*(法律研究副驾驶)和[Typeface](https://menlovc.com/portfolio/typeface/)*(内容生成AI)在这些类别中都是早期突破性的代表,其中心是LLMs的少样本推理能力。但是生成式人工智能的承诺远远超越了这第一波核心使用案例。能为您阅读和写作的人工智能很棒,但更令人兴奋的是能够代表您思考和行动的人工智能。为此,我们已经看到领先的应用程序构建商如[Anterior](https://www.anterior.com/)、[Sema4](https://sema4.ai/)和[Cognition](https://www.cognition.ai/)正在建立解决方案,来处理之前只能由大量人力来解决的工作流程。借助多步逻辑、外部内存以及访问第三方工具和API等新型构建块,下一波智能体正在拓展AI能力的边界,实现端到端流程自动化。在我们深入探讨人工智能体领域的过程中,我们将概述Menlo对新兴市场的论点——首先定义什么是智能体以及什么使它们成为可能。我们将追溯[现代人工智能技术栈](https://menlovc.com/perspective/the-modern-ai-stack-design-principles-for-the-future-of-enterprise-ai-architectures/)从少量样本指令到检索增强型生成(RAG)再到完备的智能体系统的架构演化过程,然后探讨这一范式转变对应用和基础设施层面的影响。