AI可以做社会学模拟实验吗

[title]质朴发言：吐血整理：AI大模型浪潮涌动游戏范式革新｜Z沙龙第9期[heading1]#二、游戏+AI制作讨论[heading2]3、游戏与AI的结合会产生哪些问题？我们自己做过类斯坦福小镇游戏——伊甸岛，这款游戏既是一个游戏，也是一个基于Generative AI的社会实验虚拟模拟。要思考这项技术的成熟度，与其他产品相比，如存在多年并用类似GPT技术的AI，我们的产品有何不同？如果将其置于虚拟世界中，是否会使这个Agent更实体化？我们从设计上规避了一些AI的不成熟之处，类似TPF。我们当时的规避策略是不让生成式AI去完全生成剧情，它不再是一个“上帝模型”。我们让每一个AI都有自己的角色身份，然后通过AI与AI之间的互动，AI与玩家之间的互动，产生一些可以归纳枚举的游戏行为。最后进行剧情包装时，我们让AI根据自身和玩家的行为，通过大语言模型进行二次创作，生成的内容有点像AI剧本杀。

[title]OpenAI联创：RLHF是超级智能的秘密武器[heading1]RLHF研究的最新进展Dwarkesh Pa tel：下面让我们聊聊科研相关的问题。社科领域有很多研究成果都很难复现，你觉得机器学习领域，有多少研究是真正扎实的科学，又有多少可能是类似社科领域为了让结果更显著而操纵数据的p-hacking？John Schulman：目前确实存在一些对ML研究批评的声音，但其实机器学习领域的学术环境还是比较健康的，尤其是和社科这样的其他学科相比。机器学习研究大部分都是基于实际应用，要真正出成果。如果研究成果很难被复制，那很快就会被大家忘记。现在仅仅引用他人论文中的数据是不够的，研究人员通常需要尝试复现别人的研究方法，然后在相同的数据集上做测试，验证方法的有效性和可重复性。如果一个研究方法实现起来非常困难或者结果难以重复，这种方法很可能会被学术界遗忘，所以很多研究人员会开源他们的研究。当然，这个领域也有一些不好的激励机制，比如故意选用较低的基线方法做比较，或者故意增加方法的数学计算复杂度。但总体上，我觉得这个领域正在不断进步。我希望能够有更多的科学研究去深入理解事物的本质，而不仅仅是在基准测试上不断改进和提出新方法。最近在这方面已经有了一定的进展，但仍需要更多的努力，这对整个学术界的发展都有好处。另外，我非常期待看到更多使用基础模型进行模拟社会科学的研究。模型包含了对整个世界的概率分布描述，可以设置一个模拟问卷或对话来观察与其他不同特征和变量的相关性。如果研究人员能够通过不同方式prompt基础模型并观察相关性，来复制社会科学中的一些显著成果，比如道德基础理论等，会是非常酷的事。

[title]沃尔夫勒姆：人工智能能解决科学问题吗？[heading2]超越“精确科学”What kind of science can we expect to build on the basis of what a “societal observer” measures?For the most part,we don’t yet know.There’s some reason to think that(as in the case of physics and metamathematics)such measurements might tap into pockets of computational reducibility.And if that’s the case,we can expect that we’ll be able to start doing things like making predictions—albeit perhaps only for the results of “AI measurements” which we’ll find hard to interpret.But by connecting such AI measurements to computational language,there seems to be the potential to start constructing “formalized science” in places where it’s never been possible before—and in doing so,to extend the domain of what we might call “exact sciences”.我们可以期望在“社会观察者”测量的基础上建立什么样的科学？在大多数情况下，我们还不知道。有理由认为（就像物理学和元数学的情况一样）此类测量可能会利用计算可简化性。如果是这样的话，我们可以预期我们将能够开始做诸如预测之类的事情——尽管可能只是针对我们发现很难解释的“人工智能测量”的结果。但是，通过将此类人工智能测量与计算语言联系起来，似乎有可能开始在以前不可能的地方构建“形式化科学”，并在此过程中扩展我们所谓的“精确科学”的领域。(By the way,another promising application of modern AIs is in setting up “repeatable personas”:entities that effectively behave like humans with certain characteristics,but on which large-scale repeatable experiments of the kind typical in physical science can be done.）（顺便说一句，现代人工智能的另一个有前途的应用是建立“可重复的角色”：具有某些特征的有效行为像人类的实体，但可以在其上进行物理科学中典型的大规模可重复实验。)