目前人工智能的能力存在一定的边界,主要体现在以下几个方面:
然而,人工智能也具有一些优势和能力:
在实际应用中,例如品牌卖点提炼,更适合将智能体作为引导型的助手,在思考路径停滞时提供更多思考维度,而不能完全依赖其从 0 到 1 找到公司产品的卖点。在企业自动化方面,借助新型构建块,下一波智能体正在拓展 AI 能力的边界,实现端到端流程自动化。
AI在逻辑推理、数据分析、内容理解和输出上有独特的强项,可以应用在品牌卖点提炼中,为公司寻找品牌卖点的过程中,提供有效的分析和灵感,因此我们可以借助AI智能体,搭建出属于公司品牌的品牌卖点提炼助手,利用和智能体的对话,更有助于我们找到有效的品牌卖点。[heading2]3.1先明确我们的Know-How和AI的能力[content]在搭建智能体之前,我们需要先明确AI的能力边界,因此我们需要明确AI对我们公司以及公司所在的市场不了解的部分。AI不知道我公司的主要产品,以及产品具体解决了用户什么需求。AI不知道我公司产品具体的独特之处。AI不知道我公司是否获得过哪些特别的认可。AI不知道我公司目前所依赖的核心渠道。AI不知道我公司目前产品从售卖数据上体现的核心购买人群。AI不知道我公司在产品售卖中曾使用过的营销手段。AI不知道我公司期望在新的渠道中获得怎样的结果。……你会发现,AI在品牌卖点探索过程中,对你公司的了解程度接近于0,如果你直接期望AI去帮你找到卖点,那基本上只能收获AI的一通瞎回答,比如像下面这样:这样的回答结果,基本无法帮助我们拿到有效的品牌卖点,更无法将卖点制作成真正的落地页。而AI真正的能力是什么:AI能够通过分析数据和信息进行逻辑推理,解决复杂问题。AI擅长快速处理和分析数据,能够从中提取有价值的信息和模式。AI有大量的训练数据,可以输出比人类更全面的相关信息。AI可以理解用户所提供的内容,按照正确的结构梳理有效的输出内容。因此,我们可以确定这样一个智能体,更适合做一个引导型的助手,你不能依赖AI给你从0到1找到公司产品的卖点,也不能依赖于智能体直接从大量数据的分析结果直接得到最终的有效卖点。而引导型的助手,更好的形式是,让它成为一个灵感提问助手,在我们寻找卖点的过程中,在思考路径陷入停滞的情况中,让AI提供更多的思考维度。
我们已经了解了多种应对AI幻觉的技术手段,它们就像“魔法武器”,帮助我们对抗AI幻觉这个“顽固”的敌人。然而,一个残酷的现实是:AI幻觉无法从根本上避免。[heading2]理论的“枷锁”:AI的能力边界[content]“Hallucination is Inevitable:An Innate Limitation of Large Language Models”(Xu et al.,2024)这篇论文,为我们揭示了AI幻觉无法被完全消除的根本原因:AI模型的能力存在边界。AI的知识来源于数据:AI的知识来自于它的训练数据,无法超越这些数据的范围,就像学生不能回答课本之外的问题一样。AI的推理能力有限:AI的推理能力有限,即使拥有足够的知识,它也无法像人类一样进行无限的推理和联想。因此,即使我们不断改进数据质量、优化模型结构,AI仍然无法掌握所有知识并具备无限的推理能力。[heading2]案例的“佐证”:AI幻觉的“顽固性”[content]我们前面提到的多个AI幻觉案例,也从侧面印证了AI幻觉的“顽固性”。无论是ChatGPT编造的虚假法律判例,还是医疗AI误诊的案例,都表明即使是最先进的AI模型,也无法完全避免错误的发生。
生成式AI应用当前有三个核心用例与强大的产品市场契合度:搜索、合成和生成。Menlo Ventures投资组合公司如[Sana](https://menlovc.com/portfolio/sana-labs/)*(企业搜索)、[Eve](https://menlovc.com/portfolio/eve/)*(法律研究副驾驶)和[Typeface](https://menlovc.com/portfolio/typeface/)*(内容生成AI)在这些类别中都是早期突破性的代表,其中心是LLMs的少样本推理能力。但是生成式人工智能的承诺远远超越了这第一波核心使用案例。能为您阅读和写作的人工智能很棒,但更令人兴奋的是能够代表您思考和行动的人工智能。为此,我们已经看到领先的应用程序构建商如[Anterior](https://www.anterior.com/)、[Sema4](https://sema4.ai/)和[Cognition](https://www.cognition.ai/)正在建立解决方案,来处理之前只能由大量人力来解决的工作流程。借助多步逻辑、外部内存以及访问第三方工具和API等新型构建块,下一波智能体正在拓展AI能力的边界,实现端到端流程自动化。在我们深入探讨人工智能体领域的过程中,我们将概述Menlo对新兴市场的论点——首先定义什么是智能体以及什么使它们成为可能。我们将追溯[现代人工智能技术栈](https://menlovc.com/perspective/the-modern-ai-stack-design-principles-for-the-future-of-enterprise-ai-architectures/)从少量样本指令到检索增强型生成(RAG)再到完备的智能体系统的架构演化过程,然后探讨这一范式转变对应用和基础设施层面的影响。