人工智能会出现自主意识吗

更进一步，如果这些克隆体被批量化复制成为新时代的“网络水军”，社会舆论、国家安全，都将受到冲击。这已不再可以被简单的视作虚假，而是成为一种新的现实，一种数字克隆体作为社会主体之一且无法轻易分割的新常态。由悠船生成预测#5，模仿，是否会是使AI具有“自主意识”的一种可能路径？现在我们能接触到的AI存在“动机”吗？或许没有。但如果一个AI可以经年累月的观察你——知道在物理和虚拟世界的某些前置条件发生时，你大概率会做某件事，在类似的条件再次触发时，TA是否会判断形成某一动机是大概率事件，进而通过长期模仿训练而产生动机？如果观察一个人的样本量太小太少，那么，如果数据可以放在一起训练呢，或者，让数字克隆体可以交流、融合，形成群体智能？由悠船生成「你我相关」数字克隆体会在几年后出现吗？我相信一定会，但它会超越短视频成为新的全民参与的生活方式吗，我没有答案。这取决于很多因素的组合，社会对隐私风潮重视的变化、AI时代下人们的收入来源、政府的数据立法......所以，如果这些技术在几年后都走向成熟，你会愿意生成自己的数字克隆体并出租吗？在什么情境下你愿意出租？欢迎在评论区留下你的想法！「下集预告」如果你的追求者通过你的数字克隆体了解如何向你表白…竞争对手用克隆体模拟谈判寻找弱点…又或者，黑客用AI获取并分析了过去20年你在互联网留下的全部数字痕迹…再或者，通过非侵入式设备实现“读心术”？隐私的重要性再怎么强调都不为过。无隐私社会离我们有多远？欢迎关注并期待《看见2030|无隐私社会》！

当AI变得比人类更聪明、我们称这一刻为奇点。一些人预测，奇点最快将于2045年到来。Nick Bostrom和Vincent C。Müller在2017年的一系列会议上对数百名AI专家进行了调查，奇点（或人类水平的机器智能）会在哪一年发生，得到的答复如下：乐观预测的年份中位数（可能性10%）-2022现实预测的年份中位数（可能性50%）-2040悲观预测的年份中位数（可能性90%）-2075因此，在AI专家眼里很有可能在未来的20年内，机器就会像人类一样聪明。这意味着对于每一项任务，机器都将比人类做得更好；当计算机超过人类时，一些人认为，他们就可以继续变得更好。换句话说，如果我们让机器和我们一样聪明，没有理由不相信它们能让自己变得更聪明，在一个不断改进的机器之心进化的螺旋中，会导致超级智能的出现。从工具进化到数字生命按照上面的专家预测，机器应该具有自我意识和超级智能。到那时，我们对机器意识的概念将有一些重大的转变，我们将面对真正的数字生命形式（DILIs-Digital Lifeforms）。一旦你有了可以快速进化和自我意识的DILIs，围绕物种竞争会出现了一些有趣的问题。DILIs和人类之间的合作和竞争的基础是什么？如果你让一个有自我意识的DILIs能模拟疼痛，你是在折磨一个有感知的生命吗？

很明确,未来的完全自主智能体可能会拥有所有四个构建块,但今天的LLM应用程序和智能体还没有达到这个水平。例如,流行的RAG架构不是智能体式的,而是以推理和外部记忆作为其基础。一些设计,如[OpenAI的结构化输出](https://openai.com/index/introducing-structured-outputs-in-the-api/)甚至支持工具使用。但重要的区别在于,这些应用程序将LLM作为语义搜索、综合或生成的"工具",但它们采取的步骤(即逻辑流)仍由代码预先确定。对比来说,当您将LLM置于应用程序的控制流中并让它动态决定要采取的行动、要使用的工具以及如何解释和响应输入时,智能体就会出现。只要这是真的,有些智能体甚至不需要与外部工具交互或采取行动。在Menlo,我们确定了三种不同主要用例和应用程序进程控制自由度的智能体类型。受到最严格限制的是"决策智能体"设计,它们使用语言模型来遍历预定义的决策树。"轨道智能体"则提供了更大的自由度,为智能体配备了更高层次的目标,但同时限制了解决空间,要求遵循标准作业程序并使用预先设定的"工具"库。最后,在光谱的另一端是"通用人工智能体"——本质上是没有任何数据支架的for循环,完全依赖于语言模型的推理能力来进行所有的计划、反思和纠正。以下,我们将探讨五种参考架构和每种智能体类型的人工智能体示例。