AI可以自我迭代的软件

[title]智变时代/全面理解机器智能与生成式AI加速的新工业革命[heading1]04演化-万物皆计算[heading3]4.4目标与自主进化AI能有自己的目标和实现自主进化么？去年九月接知名播客80000 Hours在采访Mustafa Suleyman的时候，一开场就问了这个问题：“ AI有可能成为一个能够自主进化的智能体么？”Suleyman认为，在短期之内不太可能出现这种智能体。这是一种能够自主运行，制定自己的目标，还能识别环境中的新信息、新的奖励信号，并且学会用它进行自我监督，随着时间的推移，最终可以更新自己权重，实现自主进化的人工智能体，这将是真正的数字生物。如果某种AI技术真的展现出这种能力，它可能会有非常大的潜在风险，而且在人类的伦理上会如何看待它们呢？它们是独立的个体，能有自己的权利么？从现在有能力训练大模型的公司和研究机构的态度来看，他们目标是尽量避免这样的数字生命诞生。。机器的目标让我们先回到机器的目标上来，OpenAI的联合创始人之一John Schulman在接受Dwarkesh Patel的播客采访的时候，透露了很多最新的研究进展。他作为研究科学家，主要负责Post-Training阶段的工作，也就是微调与强化学习（RL - Reinforcement learning）。一定程度上，GPT-4这样的模型已经表现出了类似人类的心理驱动力和对目标的渴望。例如，人类有了吃饭的目标，会进入“寻找食物”的状态，AI则表现为追求正反馈，模型希望自己的产出得到人类认可，这种认可通过奖励模型（Reward Model）来衡量。实际上，模型努力产出的是人们可能会喜欢并认为正确的结果。

数字人在未来肯定会有很多的应用场景，比如家庭中有数字人管家，全面接管智能家居或其他设备；学校中有数字人老师，孜孜不倦的为学生答疑解惑；商场里有数字人导购，为顾客提供指路、托管个人物品等悉心服务...数字人在未来肯定还有很多的技术突破，比如可以将五感数据作为输入(例如声音、图像、气味、震动等等)，将所有可以控制躯壳的参数也作为输入(例如躯壳骨骼节点，面部混合形状参数等)；次世代的算法可以自我迭代升级，也可以拿到感官输入以及躯壳控制方法后，自行演化躯壳控制方式...笔者希望通过Dify搭建数字人的开源项目，给大家展现低门槛高度定制数字人的基本思路，但数字人的核心还是在于我们的Agent，也就是数字人的灵魂，怎样在Dify上面去编排专属自己的数字人灵魂是值得大家自己亲自体验的。真诚的希望看到，随着数字人的多模态能力接入、智能化水平升级、模型互动控制更精确，用户在需要使用AI的能力时，AI既可以给你提供高质量的信息，也能关注到你的情绪，给你一个大大的微笑，也许到了那时，数字世界也开始有了温度。

[title]机器之心的进化/理解AI驱动的软件2.0智能革命[heading1]06 AI进化的未来[heading2]6.3人工智能何时通用？这些DILIs将能够在服务器上进行自我复制和编辑（应该假设在某个时候，世界上的大多数代码将由可以自我复制的机器来编写），这可能会加速它们的进化。想象一下，如果你可以同时创建100,000,000个你自己的克隆体，修改你自己的不同方面，创建你自己的功能函数和选择标准，DILIs应该能够做到这一切（假设有足够的算力和能量资源）。关于DILIs这个有趣的话题在《Life 3.0》和《Superintelligence:Paths，Dangers，Strategies》这两本书中有详细的讨论。这些问题可能比我们的预期来得更快。Elad Gil在他的最新文章《AI Revolution》提到OpenAI、Google和各种创业公司的核心AI研究人员都认为，真正的AGI还需要5到20年的时间才能实现，这也有可能会像自动驾驶一样永远都在五年后实现。不管怎样，人类最终面临的潜在生存威胁之一，就是与我们的数字后代竞争。历史学家Thomas Kuhn在其著名的《The Structure of Scientific Revolutions》一书中认为，大多数科学进步是基于广泛接受的理论框架，他称之为科学范式。偶尔，一个既定的范式被推翻，被一个新的范式所取代- Kuhn称之为科学革命。我们正处在AI的智能革命之中！最后，送上一首AI创作的曲子《I Am AI》，Nvidia每年的GTC大会上都会更新一次内容，看看AI如何从各个行业渗透到我们的生活。