直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

AI会杀死人类吗

回答

目前对于“AI 是否会杀死人类”这个问题,存在不同的观点和看法。

一方面,有人认为 AI 更像是打开新世界大门的钥匙,能够解锁人类认知的新境界,展现更为广阔的创意领域,赋予想象力以翅膀,而非颠覆或毁灭人类。例如,在一些节目和创作中,AI 被用于辅助生成内容,展现出其积极的作用。

另一方面,也有人对此持有警觉态度。比如 Amazon 的创始人 Jeff Bezos 就做了形象的比喻,认为大语言模型的智能像是被召唤出来的。对于复杂的神经网络内隐藏的秘密研究才刚开始,如何使用和控制这些黑箱模型是业界和社会争论的激烈话题。有人担心 AGI 不加以控制会导致人类灭亡,也有人认为当前的架构即便扩展算力也根本实现不了 AGI。

此外,OpenAI 作为在 AI 领域有重要影响力的机构,其高层认为员工大多是相信 AGI 会到来且将带来伟大时刻的信徒。但 OpenAI 也面临着在满足商业需求和竞争中保持领先的同时,肩负提升人类而非消灭人类的使命的压力。

综合来看,目前不能简单地得出 AI 会杀死人类的结论,但对于 AI 的发展和应用需要谨慎对待,通过合理的约束和引导,让其成为辅助人类、推动社会发展的工具。

内容由 AI 大模型生成,请仔细甄别(powered by aily)

参考资料

节目介绍及投票

AIGC十三,赞2“2023年是AIGC技术大爆发的一年,在AI席卷千行百业的时代浪潮下,创意行业同样需要与时俱进,拥抱变化,迎接挑战,积极探研AI应用的无限可能。《AI是无尽想象》这条短片,正是在这样的创作背景下孕育而生。未来,AI是否会颠覆人类?我相信并非如此。它更像是打开新世界大门的钥匙,解锁人类认知的新境界,展现更为广阔的创意领域。AI赋予想象力以翅膀,让每一个奇思妙想在广阔天际自由翱翔,实现完美落地。” --十三本作品除真人出镜部分,其他内容均由AI生成。由ChatGPT、Midjourney、Stable Diffusion、Dall E3、Runway、Pika、Moonvalley、AnimateDiff、Leia Pix、Deforum、Ebsynth Utility、Warp Fusion等AIGC工具联合创作而成。[heading3]节目12《斗“机”眼之帕鲁大作战》[content]解缚的普罗米修斯,赞17“《斗“机“眼帕鲁大作战》节目最初是电子酒导演的创意,发在群里让大家认领,我觉得这是举手之劳,就拉上AIGCxChina的志愿者、设计师金海通一起主动请缨。之后做起来还是比较简单的,就是MJ出图,剪映剪辑。为了增加节目互动性,我自己对着视频进行了讲解配音。为了增加节目趣味性,我取了斗”机”眼这个标题,因为未来的世界,我们大家真需要一双能识别机器生成内容的慧眼。我们即将进入一个真假难辨的时代,我们希望这个节目能让那些没有接触过AIGC的朋友们有一些感觉。”--倪考梦

智变时代 / 全面理解机器智能与生成式 AI 加速的新工业革命

[title]智变时代/全面理解机器智能与生成式AI加速的新工业革命[heading1]尾声-与AI的协同进化因为算力的飞速提升、还有神经网络与硅谷人才网络的演化,我们有了生成式AI的革命,它带来了大语言模型。语言原本是人类智慧的火种,但现在我们已知的宇宙里,有一种人造的智能,可以用和我们一样的语言来独立的解释世界,这些人工智能就像神话里的盗火者。人类面对比自己更加聪明的物种出现的时候,天生就有一种警觉,它们的目的是什么?它们会毁灭我们么?Amazon的创始人Jeff Bezos在最近一次接受Lex Fridman采访的时候,就做了个形象的比喻:“现在大语言模型的智能,不像是我们发明出来的,而是召唤出来的”。对复杂的神经网络内隐藏秘密的研究才刚开始,我们如何使用和控制这些黑箱模型,是业界和社会争论最激烈的话题。有人认为AGI不加以控制,会导致人类灭亡;也有人认为现在的架构,再怎么扩展算力,也根本实现不了AGI。媒体报道上充满了各种矛盾且对立的观点,大家还十分喜欢围观这样的辩论,因为我们喜欢寻找大脑中默认想法的认同感。在这篇文章中,我引用了丰富的论点和最新的研究,尝试给大家呈现出尽可能客观的结论,就是我们还能用多模态的数据提升机器的智能,改进架构和强化训练的方法,可以让AI模型往逻辑推理、计划、记忆还有目标感更强的方向发展,Scaling Law依旧有效;但并不确定在更大规模的数据和训练中,是否会涌现出自主目标或者是我们定义不清晰的“意识”来。科技公司研发的约束方式是训练出辅助人类的超级智能助手,而不是可以自我改进升级的超级自能体,让AI渐进式的融入社会,从而推动新一轮的工业革命和经济增长。踩油门还带刹车是同时进行的,这样才能安全切顺滑的驾驶。

OpenAI 真正想要什么 | WIRED

[title]OpenAI真正想要什么| WIRED称OpenAI为邪教(cult)并不公平,但当我问公司的几位高层,如果有人不相信AGI真的会到来,而且它的到来将标志着人类历史上最伟大的时刻之一,他们是否能在这里安心工作时,大多数高管都不这么认为。他们不禁要问,不相信的人为什么要在这里工作?他们的假设是,这里的员工,现在大约有500人已经自我选择了只做信徒。至少,正如Altman所说,一旦你被录用,似乎就不可避免地会被卷入这个魔咒。与此同时,OpenAI也已今非昔比。它成立之初是一家纯粹的非营利性研究机构,但如今,从技术上讲,它的大部分员工都在为一家据说估值近300亿美元的盈利实体工作。Altman和他的团队现在面临的压力是,要在每个产品周期内实现革命,既要满足投资者的商业需求,又要在激烈的竞争中保持领先。与此同时,他们还肩负着提升人类而非消灭人类的准救世主使命。这种压力会让人崩溃。披头士掀起了巨大的变革浪潮,但只持续了这么短的时间:在敲响那令人难忘的和弦六年后,他们甚至不再是一支乐队。OpenAI引发的漩涡几乎肯定会更大。但OpenAI的领导者们发誓,他们将坚持到底。他们说,他们要做的就是制造出足够智能、足够安全的计算机,终结历史,将人类带入一个难以想象的富饶时代。

其他人在问
ai的落地场景应用
以下是 AI 的一些落地场景应用: 1. 医疗保健: 医学影像分析:用于分析医学图像辅助诊断疾病。 药物研发:加速药物研发,识别潜在药物候选物和设计新治疗方法。 个性化医疗:分析患者数据提供个性化治疗方案。 机器人辅助手术:控制手术机器人提高手术精度和安全性。 2. 金融服务: 风控和反欺诈:识别和阻止欺诈行为,降低金融机构风险。 信用评估:评估借款人信用风险,帮助做出贷款决策。 投资分析:分析市场数据辅助投资决策。 客户服务:提供 24/7 服务并回答常见问题。 3. 零售和电子商务: 产品推荐:分析客户数据推荐可能感兴趣的产品。 搜索和个性化:改善搜索结果和提供个性化购物体验。 动态定价:根据市场需求调整产品价格。 聊天机器人:回答客户问题并解决问题。 4. 制造业: 预测性维护:预测机器故障避免停机。 质量控制:检测产品缺陷提高质量。 供应链管理:优化供应链提高效率和降低成本。 机器人自动化:控制工业机器人提高生产效率。 5. 交通运输:暂未提及具体应用场景。 此外,还有以下一些具体的应用: 1. 辅助创作与学习:如 AI 智能写作助手、语言学习助手、诗歌创作助手、书法字体生成器、漫画生成器等。 2. 推荐与规划:包括 AI 图像识别商品推荐、美食推荐平台、旅游行程规划器、时尚穿搭建议平台、智能投资顾问等。 3. 监控与预警:如 AI 宠物健康监测设备、家居安全监控系统、天气预报预警系统、医疗诊断辅助系统等。 4. 优化与管理:涉及办公自动化工具、物流路径优化工具、家居清洁机器人调度系统、金融风险评估工具等。 5. 销售与交易:有 AI 艺术作品生成器、书法作品销售平台、摄影作品销售平台、汽车销售平台、房地产交易平台等。 在“AI + 汽车”领域: AI 营销赛道: AI 辅助“市场营销”和“新媒体运营”,包括汽车热点营销、用户画像预测、营销内容创作、内容审核、用户评论回复,以及“一键生图”。 AI 提升“销售体验”,引导“留资或下单”,如智能“试驾”、“金牌销售”智能导购、“互动游戏”智能导购。 AI 提升“销售能力”,基于汽车销售场景自动出题,可采用多种形式,如选择题、对话或情景模拟。
2024-11-18
ai生成音乐
以下是关于 AI 生成音乐的相关信息: AI 生成音乐的工具是利用人工智能技术,特别是机器学习和深度学习算法,来创作、编排和生成音乐的软件平台。它们能够分析大量音乐数据,学习音乐模式和结构,然后根据用户输入或特定指令创作出新作品。 推荐的 AI 音乐产品有: 1. Udio:由前 Google DeepMind 工程师开发,通过文本提示快速生成符合用户音乐风格喜好的高质量音乐作品。网址:https://www.udio.com/ 2. Suno AI:一款革命性的人工智能音乐生成工具,通过先进的深度学习技术,能将用户输入转化为富有情感且高质量的音乐作品。网址:https://suno.com/ 目前有许多创业公司正在尝试创造人工智能生成的音乐,如 Soundful、Musico、Harmonai、Infinite Album 和 Aiva。尽管目前很多工具,如 Open AI 的 Jukebox,是高度计算密集型的,还不能实时运行,但一旦初始模型成功建立,实时运行将成为可能。 Suno 和 Udio 都推出了上传音频文件生成音乐的功能,具有精确的控制力。有了前置的旋律,可以精确控制每首歌的速度(Tempo)、旋律(Melody)、配器(Instrumentation)、合成(synthesizer)等。 在使用 AI 生成音乐时,可以用提示词多 Roll 一些和流派、心情、场景相关的曲子,把好的旋律存起来作为素材,也可以把点数用来 roll 更多细节调整的部分,提升作品品质。
2024-11-18
目前市面上能力最强的AI模型是哪家的
目前市面上能力较强的 AI 模型来自多家公司和机构。 OpenAI 的 GPT4 是一个表现出色的大型多模态模型,在各种专业和学术基准测试中表现出与人类相当的水平。此外,OpenAI 还带来了其他优秀的模型,如 DALL·E 3 等。 Meta 开发的 Llama 3.1 是迄今为止最大版本,其在推理、数学、多语言和长上下文任务中能够与 GPT4 相抗衡,标志着首次开放模型缩小与专有前沿的差距。 谷歌 DeepMind 与纽约大学团队开发的 AlphaGeometry 在奥林匹克级几何问题基准测试中表现优异。 中国的 DeepSeek、零一万物、知谱 AI 和阿里巴巴等开发的模型在 LMSYS 排行榜上取得了优异的成绩,尤其在数学和编程方面表现出色,且在某些子任务上挑战了 SOTA。 Mistral 7B 是一个具有 73 亿参数的模型,在所有基准测试上超越了 Llama 2 13B,在许多基准测试上超越了 Llama 1 34B,在代码任务上接近 CodeLlama 7B 的性能,同时在英语任务上表现良好。 需要注意的是,AI 模型的能力评估会因不同的任务和应用场景而有所差异,且技术在不断发展和进步,新的更强的模型可能会不断涌现。
2024-11-18
如何学习AI
以下是关于新手学习 AI 的建议: 1. 了解 AI 基本概念: 阅读「」部分,熟悉 AI 的术语和基础概念,包括其主要分支(如机器学习、深度学习、自然语言处理等)以及它们之间的联系。 浏览入门文章,了解 AI 的历史、当前的应用和未来的发展趋势。 2. 开始 AI 学习之旅: 在「」中,找到为初学者设计的课程,特别推荐李宏毅老师的课程。 通过在线教育平台(如 Coursera、edX、Udacity)上的课程,按照自己的节奏学习,并有机会获得证书。 3. 选择感兴趣的模块深入学习: AI 领域广泛,比如图像、音乐、视频等,可根据自己的兴趣选择特定模块深入学习。 掌握提示词的技巧,它上手容易且很有用。 4. 实践和尝试: 理论学习后,实践是巩固知识的关键,尝试使用各种产品做出作品。 在知识库中有很多实践后的作品、文章分享。 5. 体验 AI 产品: 与现有的 AI 产品如 ChatGPT、Kimi Chat、智谱、文心一言等聊天机器人互动,了解其工作原理和交互方式,获得对 AI 在实际应用中表现的第一手体验,并激发对 AI 潜力的认识。 对于中学生学习 AI,建议如下: 1. 从编程语言入手学习: 从 Python、JavaScript 等编程语言开始,学习编程语法、数据结构、算法等基础知识,为后续的 AI 学习打下基础。 2. 尝试使用 AI 工具和平台: 使用 ChatGPT、Midjourney 等 AI 生成工具,体验 AI 的应用场景。 探索面向中学生的 AI 教育平台,如百度的“文心智能体平台”、Coze 智能体平台等。 3. 学习 AI 基础知识: 了解 AI 的基本概念、发展历程、主要技术如机器学习、深度学习等。 学习 AI 在教育、医疗、金融等领域的应用案例。 4. 参与 AI 相关的实践项目: 参加学校或社区组织的 AI 编程竞赛、创意设计大赛等活动。 尝试利用 AI 技术解决生活中的实际问题,培养动手能力。 5. 关注 AI 发展的前沿动态: 关注 AI 领域的权威媒体和学者,了解 AI 技术的最新进展。 思考 AI 技术对未来社会的影响,培养对 AI 的思考和判断能力。 记住,学习 AI 是一个长期的过程,需要耐心和持续的努力。不要害怕犯错,每个挑战都是成长的机会。随着时间的推移,您将逐渐建立起自己的 AI 知识体系,并能够在这一领域取得成就。完整的学习路径建议参考「通往 AGI 之路」的布鲁姆分类法,设计自己的学习路径。
2024-11-18
推荐关于每日新闻、财经金融类新闻的AI网站或公众号、播客,需要有深度、时效性强、准确性高,避免八卦网站、小道消息网站和单纯转发其他文章的网站
以下是为您推荐的关于每日新闻、财经金融类新闻的相关资源: AI 新闻写作工具: Copy.ai:功能强大,提供丰富的新闻写作模板和功能,可快速生成新闻标题、摘要、正文等内容,节省写作时间并提高效率。 Writesonic:专注于写作,提供新闻稿件生成、标题生成、摘要提取等功能,智能算法可根据用户信息生成高质量新闻内容,适合新闻写作和编辑人员。 Jasper AI:人工智能写作助手,虽主打博客和营销文案,也可用于生成新闻类内容,写作质量较高,支持多种语言。 金融服务相关: 东方财富网投资分析工具:利用 AI 技术分析金融市场数据,为投资者提供投资建议和决策支持,例如根据股票历史走势和市场趋势预测未来走势。 其他领域的 AI 应用: 图虫网:AI 摄影作品销售平台,利用图像识别、数据分析技术,为摄影爱好者提供作品销售渠道。 网易云音乐音乐人平台:AI 音乐作品发布平台,利用音频处理、数据分析技术,为音乐创作者提供作品发布、推广、版权管理等服务。 好好住 APP:AI 家居用品推荐平台,利用数据分析、自然语言处理技术,根据用户需求推荐家居用品。 需要注意的是,以上内容由 AI 大模型生成,请仔细甄别。同时,生成式 AI 还能在金融服务业中帮助改进内部流程,如在预测方面编写公式和查询、发现模式并建议输入,在报告方面自动创建内容并调整,在会计和税务方面综合总结并提供可能答案,在采购和应付账款方面自动生成和调整相关文件及提醒。
2024-11-18
能 写论文的ai
在论文写作领域,AI 技术的应用发展迅速,能提供多方面的辅助,以下是一些常用的 AI 工具和平台: 1. 文献管理和搜索: Zotero:结合 AI 技术,可自动提取文献信息,助于管理和整理参考文献。 Semantic Scholar:由 AI 驱动的学术搜索引擎,能提供文献推荐和引用分析。 2. 内容生成和辅助写作: Grammarly:通过 AI 技术提供文本校对、语法修正和写作风格建议,提升语言质量。 Quillbot:基于 AI 的重写和摘要工具,可精简和优化论文内容。 3. 研究和数据分析: Google Colab:提供基于云的 Jupyter 笔记本环境,支持 AI 和机器学习研究,便于数据分析和可视化。 Knitro:用于数学建模和优化的软件,有助于复杂数据分析和模型构建。 4. 论文结构和格式: LaTeX:结合自动化和模板,高效处理论文格式和数学公式。 Overleaf:在线 LaTeX 编辑器,有丰富模板库和协作功能,简化论文编写。 5. 研究伦理和抄袭检测: Turnitin:广泛使用的抄袭检测工具,确保论文原创性。 Crossref Similarity Check:通过与已发表作品比较,检测潜在抄袭问题。 使用这些工具时,要结合自身写作风格和需求,选择最合适的辅助工具。另外,AI 还能在以下方面帮助写论文: 草拟初稿,如博客文章、论文、宣传材料等,只需给出提示。 优化已有文本,如改进内容、提供针对特定受众的建议、变换风格等。 协助完成任务,如写邮件、创建销售模板、提供商业计划下一步等。 帮助摆脱写作中的困难挑战,提供动力。 需注意,内容由 AI 大模型生成,请仔细甄别。
2024-11-18
你觉得人工智能带给人类的到底是提升还是毁灭呢?
人工智能带给人类的影响既有提升也有潜在的挑战,但并非必然导致毁灭。 从提升的方面来看: 技术上可以解决类似于社会歧视等问题,如通过 RLHF 等方法。 优化工作效率,虽然可能导致某些岗位的调整,但实际每个工作的组成部分不是单一的,人可以和人工智能更好地协同。例如放射科医生的案例,解读 X 光照片只是其工作的一部分,实际并未失业。 可以成为解决气候变化和大流行病等问题的关键。 作为自主的个人助理,代表人们执行特定任务,如协调医疗护理。帮助构建更好的下一代系统,并在各个领域推动科学进展。 潜在的挑战和担忧包括: 可能放大人类的负面影响,需要在技术层级加以解决。 导致失业,但能掌握人工智能的人会取代不会的人。 存在人类毁灭的担忧,不过目前此类观点缺乏具体的说明和论证。 对于强人工智能,目前 ChatGPT 的崛起引发了相关讨论,但通用技术并非等同于强人工智能。对于复杂的神经网络和黑箱模型的研究仍在进行,如何使用和控制这些模型是业界和社会争论的热点。科技公司倾向于训练辅助人类的超级智能助手,而非自我改进升级的超级智能体,以推动新一轮的工业革命和经济增长。 总之,人工智能的发展带来了巨大的机遇和挑战,需要我们聪明而坚定地采取行动,以实现其正面影响并应对潜在风险。
2024-11-16
人工智能会取代人类吗
人工智能是否会取代人类是一个复杂且备受关注的问题。 从一些观点来看,按照目前 AI 发展的速度,在未来十几年内,人类的所有事情乃至人类这个种族有可能被 AI 完全替代。比如,当函数的参数超过兆亿级时,硅基生物可能会理解人类的所有行为及背后的意义,从而实现对人类的全面超越。 然而,也有不同的看法。虽然 AI 会优化效率,但每个工作的组成部分并非单一,人可以和 AI 更好地协同。例如放射科医生的工作,解读 X 光照片只是其中一部分,实际该岗位并未因 AI 而失业。 同时,对于人工智能的担忧还包括是否会放大人类的负面影响、导致失业以及人类毁灭等。但在技术层级上可以解决类似于社会歧视等问题,人类也有丰富的经验来控制比个体强大的事物,许多未完全控制的事物也有其价值和安全性,而且 AI 还可能成为解决气候变化和大流行病等问题的关键。 另外,ChatGPT 的崛起使人们认为大模型可能是通用的,但通用技术并非通用人工智能(强人工智能),强人工智能的定义是可以像人一样做任何智力任务。
2024-11-13
Ai以后会取代人类吗?
AI 是否会取代人类是一个复杂且备受关注的问题。目前有以下观点: 一方面,有人认为按照当前 AI 迅猛的发展速度,在 5 年左右的时间里整个行业就会发生巨大变化。当函数的参数超过兆亿级时,硅基生物可能会理解人类的所有行为及背后意义,从而实现对人类的全面超越。比如,现在觉得 AI 的一些缺点,如画图构图不好、语言模型不够精确等,只是发展过程中的阶段性问题,随着技术进步这些都可能被解决。十几年内,人类的所有事情乃至人类这个种族可能会被 AI 完全替代。 另一方面,也有观点认为鉴于人工智能依赖的神经网络基础,专家 AI 可能通过元学习比预期更快地获得知识,并带着人类一同进步。AI 的性质让人类可以做一些对人无法做的事情,通过构建系统深入探索其内部工作机制,可能成为下一代专家的教师。 总之,AI 的发展对人类的影响仍存在多种可能性,需要持续关注和研究。
2024-10-16
写一篇 人工智能不能超越人类智能的二辩稿子
以下是为您提供的人工智能不能超越人类智能的二辩稿子: 虽然 GPT4 等技术代表了向通用人工智能(AGI)的进展,但仍存在诸多局限性。例如,GPT4 在智能的某些衡量标准如规划方面不太清晰,缺少“快速学习和从经验中学习”的部分,且存在幻觉问题、基本算术错误等已知缺陷。尽管它在许多任务上达到或超过人类水平,但其智能模式显然不像人类。 生成式 AI 的革命带来了大语言模型,然而人类面对这种人造智能时会产生警觉,关于如何使用和控制这些黑箱模型存在激烈争论。目前科技公司研发的方向是训练辅助人类的超级智能助手,而非自我改进升级的超级自能体,以实现 AI 渐进式融入社会。 总之,当前的技术表明,人工智能在很多方面仍无法超越人类智能,且在未来的发展中需要受到合理的约束和引导。
2024-10-12
我想知道AI怎么帮人类提高工作效率
以下是关于 AI 如何帮助人类提高工作效率的相关内容: 哈佛商学院的研究表明,在工作中使用 AI 能显著改善工作效率。使用 AI 的被测试者比未使用者平均多完成 12.2%的任务,完成速度提高 25.1%,结果质量提高 40%。 研究还发现,类似 GPT4 这样的模型有能力边界,边界内任务处理良好,边界外则可能表现不佳,但具体边界未知。 实验分三组,不使用 AI、使用 AI 以及使用 AI 并给予培训,后两组任务完成效率和质量都远超未使用组。 AI 对工作能力差的被测试者提升更大,会拉平高级和低级人才的差距。 过于依赖 AI 可能适得其反,降低工作效率和质量,因为人们难以区分其能力边界。 人类和 AI 协作有“半人马”模式,即人与 AI 紧密结合、各司其职,人类主导流程,根据任务性质调配资源,充分利用人类智慧与判断力以及 AI 的计算与生成能力。 英国相关研究指出,AI 具有巨大潜力,能像电力或互联网一样对社会和经济产生重大影响,能支持人们开展现有工作,帮助提高工作效率和工作场所安全性。 微软与 LinkedIn 的 2024 工作趋势报告显示,75%的全球知识工作者已使用生成式 AI,79%的领导者认为 AI 是竞争力的关键,重度用户表示 AI 让工作更高效、更具创造力、更易管理。
2024-09-26
ai会替代人类吗,你只能回答是或者否
否。有人认为十几年内人类的所有事情乃至人类这个种族会被 AI 完全替代,但也有人认为即使部分工作被 AI 替代,人类仍有其他事情可做,新的技术会催生新的岗位,且担心人类因依赖 AI 而退化思考和自主决策能力。
2024-09-14