AI 是否能取代人类是一个复杂的问题，目前存在不同的观点。一些人认为，随着 AI 的快速发展，它可能会在某些方面超越人类，例如在处理大量数据和执行重复性任务方面。然而，也有人认为，AI 仍然存在一些局限性，无法完全取代人类。
从提供的内容来看，余欣航 heaven 认为 AI 的发展速度非常快，在未来十几年内可能会完全取代人类。他强调了 AI 在理解人类行为和背后意义方面的潜力，并指出人类需要面对这一巨大的冲击。
OpenAI 联创则提到了 RLHF（Reinforcement Learning from Human Feedback）技术，认为它是实现超级智能的秘密武器。他们讨论了 AI 在未来是否可能充当 CEO 的问题，并指出即使 AI 在管理方面表现出色，也需要解决一些实际问题，如确保 AI 与人类偏好一致。
总的来说，AI 能否取代人类取决于多个因素，包括 AI 的发展水平、人类的需求和社会的接受程度等。目前，AI 在许多领域已经取得了显著的成就，但它仍然需要人类的指导和监督。未来，我们可能会看到 AI 与人类更加紧密地合作，共同推动社会的发展。
更重要的是，我们要站在发展的角度思考——你现在或许会觉得AI画图构图不好，像是东拼西凑，甚至“拼尸块”；你或许会觉得大语言模型不能保证从“ A是B ”推出“ B是A ”、不能“精确说出十个字”……但问题是，这都只是一个过程罢了。目前你觉得AI的所有缺点、你觉得人类所有独特的行为，这无非是因为“效用函数”还不够复杂、计算力还不够大！按照海量专家的精确计算，当函数的参数超过兆亿级的时候，硅基生物便能理解人类的所有行为以及背后的意义，实现对人类的全面超越。要注意的是，这并不是科幻小说中要到22、23世纪才能实现的事情。按照现在AI一日千里发展的速度，5年时间就足以让整个行业完全不同。我们90后、00后这一代人，注定要在自己职业生涯最黄金的时期完整地见证这些剧变。倘若现在还像鸵鸟一样把头埋在土里，或是抓住“ AI画图不够好”、“ ChatGPT不能精确说出十个字”这样几个点沾沾自喜，那么，不出几年你就会被更强大的AI击败、淘汰！这绝不是遥远的未来，而是我们在生涯黄金期，必然要面临的、巨大的冲击！
“其实，都没什么意义啦。”丁一摇了摇头，“或许有些工作复杂，有些工作简单，有些事情先被AI替代，有些事情后被AI替代。但是，这只不过前后差几年而已。最终——我是指十几年之内，我们将亲眼见证人类的所有事情，乃至人类这个种族被AI完全地替代！”“可、可……”我想说些什么，却又说不出来。“人类已经输了，碳基生物已经输了。未来，将是硅基生物的天下！”
假设最终证明AI在管理一切方面都更出色，并且也完全道德上可信赖，在管理和负责任方面做得比人类还好，我们也完全解决了alignment问题，那么也许让AI来运营公司是可以接受的，但现在说还太早。我们更有可能面临的情况是，AI从短期来看表现得不错，但仍然存在一些严重的问题。实际上我们是出于一些实际情况的考虑，才更倾向于在近期保证人类能参与其中的。Dwarkesh Pa tel：也就是说这是人类现在必须通过RLHF解决的问题，必须广泛调查并收集好各种群体的偏好，因为未来在我们有更先进的AI模型时，确保模型和人类偏好一致的问题会更难。我们在说希望终极形态的、能代替人类管理公司的AI模型能与人类目标保持一致时，究竟是指什么？是指AI能够理解并执行用户的具体指令，还是指AI的行为能够达到让OpenAI的利益相关方满意的结果？John Schulman：如果AI模型被用在风险更高的场景，那么我们必须重新考虑该怎么用不同的方式利用RLHF技术。我们可能还没准备好，或者现有的方法还不足以应对这些挑战，需要在不同利益相关者的需求之间做出平衡。