以下是这几天 AI 领域的一些相关论文和研究成果：
回顾2015年，AI技术与今天相比还相对简单。那时的AI系统都是非常狭窄和专门化的，能下围棋的系统甚至不能下国际象棋，更不用说理解语言或引导行人过马路了。每次你需要开发一个新的应用，都必须训练一个全新的模型，这需要大量时间和标记数据。而整个过程像是在黑暗中摸索前进：一个新模型被训练出来后，怎么看怎么都像在重复造旧轮子。鲜少有人知道如何造出别出心裁的轮子，更不要谈革命性突破了。然而，2017年，一篇名为《Attention is All You Need》的论文如同一道闪电，照亮了AI的未来道路。这篇由Google Brain团队撰写的论文介绍了Transformer架构，彻底改变了AI领域的格局。它能够处理未标记的、混乱的数据，并且比以前的方法更加高效。这是一个"令人惊讶和痛苦的认识"：最好的AI不是来自最专业的训练技术，而是来自拥有最多数据的人。面对诞生的新架构，OpenAI的技术领袖——伊利亚迅速认识到了Transformer的潜力。伊利亚坚信，AI的下一个重大进展将不再仅仅依赖于算法的微调，而是来自于更大规模、更多样化的数据。这个洞察力为OpenAI后来的发展指明了方向。在他的推动下，OpenAI迅速开始了基于Transformer架构的实验，特别是在自然语言处理领域。他们开发了GPT（Generative Pre-trained Transformer）系列模型，这个系列后来成为了OpenAI最著名的成果之一。研究团队收集了海量的文本数据，涵盖了从科学论文到社交媒体帖子的各种内容。格雷格则形象地将这个过程比喻为"给AI喂食整个互联网"。
一个主权国家向美国大型人工智能实验室投资100亿美元以上，需要国家安全审查。没有任何编码能力的人独自创建的应用程序或网站将会迅速走红（例如App Store Top-100）。案件开始审理后，前沿实验室对数据收集实践实施有意义的改变。由于立法者担心权力过度，欧盟人工智能法案的早期实施最终比预期更为缓慢。OpenAl o1的开源替代品在一系列推理基准测试中超越了它。挑战者未能对NVIDIA的市场地位造成任何重大打击。由于公司难以实现产品与市场的契合，对人形机器人的投资水平将会下降。苹果设备上研究的强劲成果加速了个人设备上AI的发展势头。人工智能科学家撰写的研究论文被大型机器学习会议或研讨会接受。一款以与GenAI元素交互为基础的视频游戏将取得突破性进展
作者：[Derrick Harris](https://a16z.com/author/derrick-harris/)，[Matt Bornstein](https://a16z.com/author/matt-bornstein/)和[Guido Appenzeller](https://a16z.com/author/guido-appenzeller/)原文地址：https://a16z.com/2023/05/25/ai-canon/译者：通往AGI之路后半部分：[目录：a16z推荐进阶经典](https://ywh1bkansf.feishu.cn/wiki/EXX1w3QyFiBz8fknLFYce7gvnug)人工智能的研究正在以指数级别的速度增长。对于AI专家来说，跟上所有新发布的内容已经非常困难，对于初学者来说更是难上加难。因此，在这篇文章中，我们分享了一份我们信赖的、用于更深入了解现代AI的精选资源列表。我们称之为“AI典藏”，因为这些论文、博客文章、课程和指南在过去几年中对该领域产生了巨大影响。我们首先对Transformer和Latent Diffusion（潜在扩散）模型进行了简单的介绍，这些模型正在推动当前的AI浪潮。接下来，我们深入研究了技术学习资源；构建大型语言模型（LLMs）的实用指南；以及AI市场的分析。最后，我们列出了一份里程碑式研究成果的参考列表，从2017年谷歌发布的“Attention is All You Need”开始——这篇论文向世界介绍了Transformer模型，并开启了生成AI的时代。