人工智能对现在时代的冲击主要体现在以下几个方面:
正如我们所看到的其他技术一样,人工智能也会带来一些负面影响,我们需要现在就开始努力,最大限度地发挥人工智能的利益,同时最大限度地减少其危害。例如,我们预计这项技术在未来几年内会对劳动力市场产生重大影响(好的和坏的),但大多数工作的变化速度会比大多数人想象的要慢,我也不担心我们会缺乏事情可做(即使它们今天看起来不像"真正的工作")。人们天生就有创造和彼此有用的欲望,而人工智能将使我们的能力前所未有地得到放大。作为一个社会,我们将重新进入一个不断扩张的世界,我们可以再次专注于玩正和游戏。我们今天从事的许多工作,在几百年前的人看来都是微不足道的浪费时间,但没有人回望过去,希望自己成为一名点灯人。如果一个点灯人能够看到今天的世界,他会认为周围的繁荣是难以想象的。如果我们能够提前一百年看到今天,我们周围的繁荣也会让人难以想象。
简单概括:深度学习有效,随规模扩大预期改善,我们持续增加相关资源投入。就是这样;人类发现了一种算法,可以真正地学习任何数据分布(或者说,产生任何数据分布的潜在"规则")。令人震惊的是,计算能力和数据量越大,它帮助人们解决难题的能力就越强。不管我花多长时间思考这个问题,我都无法完全理解它的重要性。我们还有很多细节需要解决,但被任何特定挑战分散注意力是一个错误。深度学习是有效的,我们将解决剩余的问题。我们可以谈论很多关于下一步可能发生的事情,但主要的是,人工智能将随着规模而变得更好,这将导致对全球人民生活产生有意义的改善。人工智能模型将很快作为自主的个人助理,代表您执行特定任务,如帮助您协调医疗护理。未来,人工智能系统将变得如此出色,它们将帮助我们构建更好的下一代系统,并在各个领域取得科学进展。技术将我们从石器时代带到农业时代,再到工业时代。从这里开始,通往智能时代的道路由计算、能源和人类意志铺就。如果我们想让尽可能多的人接触到人工智能,我们需要降低计算成本,使其更加普及(这需要大量的能源和芯片)。如果我们不能建立足够的基础设施,人工智能将成为一种非常有限的资源,会导致战争,并主要成为富人的工具。我们需要聪明而坚定地采取行动。智能时代的曙光是一个历史性的发展,同时也带来极其复杂且高风险的挑战。这并非完全是个积极的故事,但潜在的正面影响如此巨大,我们有责任找出如何应对眼前的风险。我相信未来会非常光明灿烂,以至于现在任何人都无法对之进行公正的描述;智能时代的一个决定性特征将是巨大的繁荣。尽管这将逐步发生,但令人惊叹的胜利——修复气候、建立太空殖民地以及发现物理学的所有内容——最终将成为寻常。拥有近乎无限的智慧和丰富的能源——产生伟大创意和实现它们的能力——我们可以做很多事情。
世界不会一下子全都改变;事实也从未如此。在短期内,生活大多还会和2024年一样;2025年的人们也大多会像2024年那样度过他们的时光。我们仍然会坠入爱河、组建家庭、在网上争吵、在大自然中远足等。但是,未来将以一种不可忽视的方式向我们袭来,我们的社会和经济将发生巨大的长期变革。我们将发现新的事物去做,新的方式来彼此帮助,以及新的竞争方式,但它们可能与当今的工作截然不同。机构、意志力和决心很可能会非常有价值。正确决定要做什么以及如何在不断变化的世界中导航将会带来巨大价值;培养韧性和适应能力将是有益的技能。AGI将是有史以来对人类意志力影响最大的杠杆,并使个人拥有比以往更大的影响力,而不是更少。我们预计AGI将产生不均衡影响。尽管一些行业变化很小,但科学进步可能比今天快得多;AGI的这种影响可能超过其他一切。许多商品的价格最终将会大幅下跌(现在,智力成本和能源成本限制了许多事物),而奢侈品价格和一些本质上受限资源(如土地)的价格可能会更剧烈地上涨。从技术角度来说,我们面前的道路看起来相当清晰。但是关于如何将人工智能系统融入社会的公共政策和集体意见非常重要;我们频繁推出产品的一个原因是为了让社会和技术有时间共同发展。人工智能将渗透到经济和社会的各个领域;我们将期望一切都变得智能。我们中的许多人期望能给人们比以前更多控制技术的权力,包括开放更多源代码,并接受在安全性和个人授权之间会存在需要权衡的平衡。虽然我们永远不希望粗心大意,并且可能会有一些与AGI安全相关的重大决定和限制会不受欢迎,但是随着我们越来越接近实现AGI,我们相信向个人赋权的趋势是很重要的;我们可以看到的另一条可能的道路就是,专制政府利用人工智能进行大规模监控,从而剥夺人民的自主权。