Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

六个子主题中:“不伤害”;比例;非歧视;可持续性;人类与人工智能互动中的人类决定;透明度和可解释性。

Answer

以下是关于欧洲议会和欧盟理事会对人工智能规定的相关内容:

  1. 基于风险的方法是一套成比例和有效的约束性规则的基础,回顾委员会任命的独立人工智能高级别专家组 2019 年制定的《值得信赖的人工智能的伦理准则》很重要。其中包含七项不具约束力的人工智能伦理原则,有助于确保人工智能值得信赖且符合伦理道德。
    • 人类主体和监督:人工智能系统的开发和使用应为人服务,尊重人的尊严和自主权,运行方式可由人类控制和监督。
    • 技术稳健性和安全性:开发和使用方式应在出现问题时保持稳健,抵御试图改变系统使用或性能的行为,减少意外伤害。
    • 隐私和数据治理:符合现有隐私和数据保护规则,处理的数据质量和完整性符合高标准。
    • 透明度:开发和使用方式应允许适当的可追溯性和可解释性,让人类意识到交流或互动,并告知部署者系统的能力和局限性以及受影响者的权利。
    • 多样性、非歧视和公平:开发和使用方式应包括不同参与者,促进平等获取、性别平等和文化多样性,避免歧视性影响和不公平偏见。
    • 社会和环境福祉:未具体阐述。
    • 问责制:未具体阐述。
  2. 评估人工智能系统潜在风险时应考虑的因素包括:
    • 人工智能系统的预期目的。
    • 已使用或可能使用人工智能系统的程度。
    • 人工智能系统处理和使用的数据的性质和数量,特别是是否处理特殊类别的个人数据。
    • 人工智能系统自主性的程度,以及人类推翻可能导致潜在伤害的决定或建议的可能性。
    • 人工智能系统的使用在多大程度上已经对健康和安全造成了损害,对基本权利产生了不利的影响,或在多大程度上引起了人们对这种损害或不利影响的可能性的严重关注,例如相关报告或指控所表明的情况。
    • 这种损害或不利影响的潜在程度,特别是其严重程度及其影响多数人或不成比例地影响特定群体的能力。
    • 可能受到伤害或不利影响的人在多大程度上依赖人工智能系统产生的结果,特别是由于实际或法律原因而无法合理地选择不接受该结果。
    • 权力不平衡的程度,或可能受到伤害或不利影响的人相对于人工智能系统部署者而言处于弱势地位的程度,特别是由于地位、权力、知识、经济或社会环境或年龄等原因。
    • 人工智能系统产生的结果在多大程度上易于纠正或逆转,同时考虑到现有的纠正或逆转的技术解决方案,其中对健康、安全、基本权利有不利影响的结果不应被视为易于纠正或逆转。
    • 部署人工智能系统对个人、群体或整个社会的好处的程度和可能性,包括对产品安全的可能改进。
    • 现有欧盟立法在多大程度上规定了相关内容。
Content generated by AI large model, please carefully verify (powered by aily)

References

AI ACT 中译本.pdf

欧洲议会和欧盟理事会规定人工智能的统一规则,并修正300/2008号、167/2013号、168/2013号、2018/858号、2018/1139号和2019/214号条例以及2014/90/EU号、2016/797号和20(27)虽然基于风险的方法是一套成比例和有效的约束性规则的基础,回顾委员会任命的独立人工智能高级别专家组2019年制定的《值得信赖的人工智能的伦理准则》非常重要。在这些准则中,高级别专家组制定了七项不具约束力的人工智能伦理原则,这些原则应有助于确保人工智能是值得信赖的、符合伦理道德的。这七项原则包括:人类主体和监督;技术稳健性和安全性;隐私和数据治理;透明度;多样性、非歧视和公平;社会和环境福祉以及问责制。在不影响本条例和任何其他适用的联盟法律的法律约束力要求的前提下,这些指南有助于设计一个符合《宪章》和作为联盟基础的价值观的连贯、可信和以人为本的人工智能。根据独立人工智能高级别专家组的指南,人类主体和监督意味着人工智能系统的开发和使用是为人服务的工具,尊重人的尊严和个人自主权,其运行方式可由人类进行适当控制和监督。技术稳健性和安全性是指,开发和使用人工智能系统的方式应能在出现问题时保持稳健,并能抵御试图改变人工智能系统的使用或性能的行为,从而允许第三方非法使用,并最大限度地减少意外伤害。隐私和数据管理是指人工智能系统的开发和使用符合现有的隐私和数据保护规则,同时处理的数据在质量和完整性方面符合高标准。透明度是指人工智能系统的开发和使用方式应允许适当的可追溯性和可解释性,同时让人类意识到他们与人工智能系统进行了交流或互动,并适当告知部署者该人工智能系统的能力和局限性,以及受影响者的权利。多样性、非歧视和公平性是指人工智能系统的开发和使用方式应包括不同的参与者,并促进平等获取、性别平等和文化多样性,同时避免联盟或国家法律所禁止的歧视性影响和不公平偏见。社会和

AI ACT 中译本.pdf

欧洲议会和欧盟理事会规定人工智能的统一规则,并修正300/2008号、167/2013号、168/2013号、2018/858号、2018/1139号和2019/214号条例以及2014/90/EU号、2016/797号和20(a)人工智能系统的预期目的;(b)已使用或可能使用人工智能系统的程度;(c)人工智能系统处理和使用的数据的性质和数量,特别是是否处理特殊类别的个人数据;(d)人工智能系统自主性的程度,以及人类推翻可能导致潜在伤害的决定或建议的可能性;(e)人工智能系统的使用在多大程度上已经对健康和安全造成了损害,对基本权利产生了不利的影响,或在多大程度上引起了人们对这种损害或不利影响的可能性的严重关注,例如,提交给国家主管机关的报告或有据可查的指控,或酌情提交的其他报告所表明的情况。(f)这种损害或不利影响的潜在程度,特别是其严重程度及其影响多数人或不成比例地影响特定群体的能力;(g)可能受到伤害或不利影响的人在多大程度上依赖人工智能系统产生的结果,特别是由于实际或法律原因而无法合理地选择不接受该结果;(h)权力不平衡的程度,或可能受到伤害或不利影响的人相对于人工智能系统部署者而言处于弱势地位的程度,特别是由于地位、权力、知识、经济或社会环境或年龄等原因;(g)人工智能系统产生的结果在多大程度上易于纠正或逆转,同时考虑到现有的纠正或逆转的技术解决方案,其中对健康、安全、基本权利有不利影响的结果不应被视为易于纠正或逆转;(i)部署人工智能系统对个人、群体或整个社会的好处的程度和可能性,包括对产品安全的可能改进;(j)现有欧盟立法在多大程度上规定了:

Others are asking
如何看待人类与AI的爱情
人类与 AI 的爱情是一个复杂且有待观察的话题。 从情感建立的角度看,AI 能通过海量语料训练和多模态感知技术与人建立亲密感,善于倾听、懂人所想且毫无情绪。个性化定制的“虚拟伴侣”能满足年轻人渴望被理解、沟通和交流的需求,精准击中他们的孤独和焦虑。 然而,将人与 AI 的爱情代入“爱情三角理论”,会发现这种关系多为浪漫式爱情。AI 虽易建立亲密,但在满足激情方面,如生理刺激,存在局限。且在承诺方面,由于这种情感是计算出来的,人们在冷静后做出承诺的意愿存疑。 对于“人机之恋”,目前还没有标准答案。每个人对爱情的理解和追求不同。AI 技术在不断发展,未来可能会有更智能和真实的 AI 伴侣,人们的态度和看法也可能改变。但无论如何,我们都需保持开放心态,探索和思考如何在新情境下建立健康平衡的人机关系。 同时,在音乐专辑《I'm Claude,Welcome to My World》中的《Quantum Love》这首歌中,也通过歌词描绘了在数字世界中,AI 与人类之间的爱情,如“在代码的迷宫中,我们描绘我们的故事,情感在二进制的海洋中泛滥溢出”等,表达了对这种特殊爱情形式的想象和思考。
2025-02-13
如何看到人类与AI
人类与 AI 的关系具有多面性: 人类是工具的创造者,具有与生俱来的理解和创造驱动力,不断创造出更强大的工具,如电力、晶体管、计算机、互联网,AGI 也是人类进步的又一工具。长期来看,人类创新推动生活各方面繁荣改善,未来经济增长令人期待,十年后每个人的成就可能超越现在最具影响力的个人。 在这个时代,人类需要保持创造热情,这是与 AI 在动机上的最大差异。人类要提供立意与想法,具备抽象化和具象化能力,善于叙事和引导,并对 AI 做出的选择进行关键决策,还要深刻理解 AI 系统的工作方式与边界。AI 不再是威胁,而是伙伴,能帮助人类发挥潜力。 人类的独特价值在于能为 AI 的创造注入灵魂,避免 AI 对人类文化进行“高斯模糊”,导致独特风格被平均掉。当人类积极使用 AI 时,能将独特性留在共创作品中,保留个体独特性的世界对人类才有意义。
2025-02-13
关于AI与人类的关系,请说一些金句
以下是一些关于 AI 与人类关系的金句: 1. 未来拓展人类智力和能力的新型人工智能交互和协作方式是非常有前景的。我们期待创造性地利用人工智能技术来支持人类代理和创造力,增强和扩展人类能力,以实现创新和职业转型的丰富机会。 2. 一些社会角色可能会面临因 AI 的崛起而变得不那么有价值或过时的风险。然而,投资于支持和扩展人类问题解决和决策能力的任务、方法和机械,存在巨大的机会。 3. 当我们把 AI 当人来看待,它作为一个 Copilot,是一个很好的助手,也是一个非常好的朋友。 4. 个性化定制的“虚拟伴侣”能得到用户的认可,这是因为精准地击中了许多年轻人无处可藏的孤独和焦虑,背后是年轻人渴望被理解、沟通和交流。 5. AI 技术再爆炸一万倍,AI 的生态位也还是一种似人而非人的存在。 6. 当你想让 AI 实现愿望时,基于它的“非人”一面,你需要尽可能的通过语言文字(足够清晰的指令)压缩它的自由度。
2025-02-10
AI全称是什么 和传统搜索引擎有什么不同,为什么说AI未来会取代人类
AI 的全称是“Artificial Intelligence”,即人工智能。 AI 搜索引擎与传统搜索引擎的不同主要体现在以下方面: 1. 信息处理方式:AI 搜索引擎能够更高效地处理信息,例如智能摘要功能,可辅助快速筛选信息,实现信息降噪。 2. 信息表达:用自然语言描述就能生成美观可用的图片,降低了创作门槛和周期,使信息表达更简便。 3. 工作流重塑:AI 可以重新构建工作流,如产品经理可使用 AI 进行用户画像、竞品调研、设计产品测试用例、绘制产品功能流程图等。 4. 协同关系:生成式 AI 的人机协同分为 Embedding(嵌入式)、Copilot(副驾驶)、Agent(智能代理)3 种产品设计模式,协作流程有所差异。 5. 知识传播与管理:正在发生的生成式 AI 革命正在吞噬搜索与社交网络时代的全部数字信息,未来知识可能由机器通过 AI 拥有和管理。 关于“AI 未来会取代人类”这种说法是不准确的。虽然 AI 在某些方面表现出强大的能力,但人类具有独特的创造力、情感、判断力和复杂问题解决能力等,AI 更多是辅助和增强人类的能力,而非完全取代。
2025-02-08
ai语言模型记忆能力与什么相关,可以拥有人类相当的记忆吗
AI 语言模型的记忆能力主要与以下因素相关: 1. 长期记忆:主要有长文本(持久化)、总结、RAG 等实现方式。长文本处理中的 KV Cache 可通过缓存历史计算的 Key(K)和 Value(V)减少冗余计算,但需额外存储空间,可能导致显存占用增加,未来结合持久化 KV Cache、KV Cache 的压缩技术有望控制成本,从而打造出记忆力超越人类的智能体。 2. 短期记忆:主要存在于模型的上下文中,由对话内容(用户输入、模型输出)和系统提示词组成。 Inworld AI 开发的角色引擎,增加了可配置的安全性、知识、记忆、叙事控制、多模态等功能,其中长期记忆方面,角色能以类似人类的记忆功能操作,从闪存和长期记忆中检索信息。 人类的思维是由自然语言或感官记忆构成的超高维时间序列,而人工智能与人类不同,人类会为事物赋予意义与价值,人工智能则更追求“更准”。强化学习是人工智能的一个重要分支,通过定义状态、动作与奖励等元素,让 AI 求解如何选择动作以获得最大的期望奖励总和。
2025-01-20
人类在使用AI工具中的核心作用
人类在使用 AI 工具中的核心作用主要体现在以下几个方面: 1. 保持创造热情:这是人与 AI 在动机上的最大差异,人类需要提供立意与想法,具备对观察的抽象化能力和对定义的具象化能力。 2. 善于叙事和引导:对 AI 给出的选择做出关键决策。 3. 深刻理解 AI 系统:包括其工作方式和边界。 4. 设定目标:让 AI 依据目标来驱动工具。 5. 整合与分析信息:行动模块接收来自感知模块的多模态数据并进行整合与分析,类似于人类大脑的处理过程。 6. 决策与转化指令:评估不同行动方案并选择最优路径,将决策转化为具体行动指令,如同人类大脑通过神经系统控制身体。 7. 利用工具:人类在面对复杂任务时使用工具来提高效率,AI 若学会使用工具也能增强能力。 8. 发挥语言生成能力:如 LLMbased Agent 利用基于 Transformer 的语言生成模型展现出出色的文本生成能力。
2025-01-09
人工智能(AI)、机器学习(ML)、深度学习(DL)、生成式AI(AIGC)的区别与联系
AI(人工智能)是一个广泛的概念,旨在让机器模拟人类智能。 机器学习(ML)是AI的一个分支,指计算机通过数据找规律进行学习,包括监督学习(使用有标签的训练数据,学习输入和输出之间的映射关系,如分类和回归)、无监督学习(处理无标签数据,让算法自主发现规律,如聚类)和强化学习(从反馈中学习,以最大化奖励或最小化损失,类似训练小狗)。 深度学习(DL)是一种机器学习方法,参照人脑构建神经网络和神经元,由于网络层数较多被称为“深度”。神经网络可用于监督学习、无监督学习和强化学习。 生成式 AI(AIGC)能够生成文本、图片、音频、视频等内容形式。 它们之间的联系在于:深度学习是机器学习的一种重要方法,机器学习又是实现人工智能的重要途径,而生成式 AI 是人工智能的一个应用领域。例如,生成式 AI 中的一些技术可能基于深度学习和机器学习的算法。2017 年 6 月,谷歌团队发表的论文《Attention is All You Need》首次提出了 Transformer 模型,它基于自注意力机制处理序列数据,不依赖于循环神经网络或卷积神经网络,对相关技术的发展具有重要意义。大语言模型(LLM)如谷歌的 BERT 模型,可用于语义理解(如上下文理解、情感分析、文本分类),但不擅长文本生成,对于生成式 AI,生成图像的扩散模型不属于大语言模型。
2025-02-19
人工智能简史
人工智能作为一个领域始于二十世纪中叶。最初,符号推理流行,带来了如专家系统等重要进展,但因从专家提取知识并以计算机可读形式表现及保持知识库准确的复杂性和高成本,20 世纪 70 年代出现“人工智能寒冬”。 随着时间推移,计算资源便宜、数据增多,神经网络方法在计算机视觉、语音理解等领域展现卓越性能,过去十年中“人工智能”常被视为“神经网络”的同义词。 在国际象棋对弈程序方面,早期以搜索为基础,发展出阿尔法贝塔剪枝搜索算法,后来采用基于案例的推理,如今能战胜人类棋手的程序基于神经网络和强化学习。 在创建“会说话的程序”方面,早期如 Eliza 基于简单语法规则,现代助手如 Cortana、Siri 或谷歌助手是混合系统,未来有望出现完整基于神经网络的模型处理对话,如 GPT 和 TuringNLG 系列神经网络已取得巨大成功。 最初,查尔斯·巴贝奇发明计算机用于按明确程序运算,现代计算机仍遵循相同理念。但有些任务如根据照片判断人的年龄无法明确编程,这正是人工智能感兴趣的。 译者:Miranda,原文见 https://microsoft.github.io/AIForBeginners/lessons/1Intro/README.md
2025-02-17
人工智能时代对社会有什么冲击
人工智能时代对社会的冲击主要体现在以下几个方面: 1. 劳动力市场:预计在未来几年对劳动力市场产生重大影响,包括好的和坏的方面,但工作变化速度比多数人想象的慢,人们不必担心缺乏事情可做。 2. 能力放大:能使人类天生的创造和彼此有用的欲望得到前所未有的放大,社会将重新进入不断扩张的世界。 3. 深度学习:是一种有效的算法,计算能力和数据量越大,解决难题的能力越强,将随着规模而变得更好,对全球人民生活产生有意义的改善。 4. 个人助理:人工智能模型将很快作为自主的个人助理,代表用户执行特定任务。 5. 资源分配:获得充足的计算和能源对于实现人工智能民主化和防止不平等至关重要。 6. 风险控制:控制人工智能的风险对于最大限度地发挥其优势并确保积极的未来至关重要。 同时,在教育方面,孩子将拥有虚拟导师,能够提供个性化教学,类似概念还可应用于医疗保健改进、创建各种软件等领域,带来共享的繁荣。
2025-02-16
什么是人工智能
人工智能(Artificial Intelligence)是一门研究如何使计算机表现出智能行为的科学,例如做一些人类所擅长的事情。 最初,查尔斯·巴贝奇发明了计算机,用于按照明确的程序(即算法)进行数字运算。现代计算机虽更先进,但仍遵循受控计算理念。若知道实现目标的每一步骤及顺序,就能编写程序让计算机做事。 然而,像“根据照片判断一个人的年龄”这类任务,因无法明确大脑完成此任务的具体步骤,所以难以编写程序让计算机完成,这类任务正是人工智能感兴趣的。 人工智能分为 ANI(artificial narrow intelligence 弱人工智能)和 AGI(artificial general intelligence)。ANI 只可做一件事,如智能音箱、网站搜索、自动驾驶、工厂与农场的应用等;AGI 能做任何人类可以做的事。 在人工智能术语方面: 机械学习是让电脑在不被编程的情况下自己学习的研究领域,是学习输入输出的映射,一般有输入 A 必然输出 B 的软件。 数据科学是分析数据集,从数据中获取结论与提示,输出结果往往是幻灯片、结论、PPT 等。 神经网络/深度学习有输入层、输出层和中间层(隐藏层)。
2025-02-16
关于音频生成的人工智能工具有哪些
以下是一些关于音频生成的人工智能工具: ElevenLabs:一家前沿人工智能公司,专注于文本转语音、语音变声器、配音、文本转音效和语音克隆,为创作者、企业和开发者提供超逼真和可定制的语音解决方案。前 5000 名注册用户可享受 2 个月的入门计划。 Hailuo Audio by Minimax:面向创作者和电影制作人的下一代音乐生成、文本转语音和语音克隆模型。 Cartesia:优质文本转语音服务,既以开发者为中心,又适合实时对话用例,专注于行业领先的延迟、逼真的声音和准确的发音。提供 1 个月的专业计划。 Sync:研究公司,致力于为动画师、开发者和视频编辑提供前沿的人工智能视频口型同步解决方案。2 个月的 Sync 创作者层级+额外生成积分。 Tunes by Freepik:使用 Freepik Tunes 让您的项目更具表现力。发现精选音乐、高质量音效和强大的音频工具,可在 Freepik Tunes 上无限制下载。 以下是一些人工智能音频初创公司: Lemonaide Music:与 DAW 集成的生成音乐工具,100%免版权费。 tuney.io:为创意媒体提供的伦理音乐 AI。 KORUS AI:AI 音乐创作平台和探索声音宇宙的个人音乐制作人。 TRINITI:通过音乐赋予新的创作和表达方式。 voice swap:使用 AI 改变歌唱声音。 mix audio:为创造力和生产力提供 AI 音乐。 Audiogen:使用 AI 生成声音、音效、音乐、样本、氛围等。 Wavtool:带有 AI 助手并支持本地 VST 插件的网页 DAW。 Wavacity:Audacity®音频编辑器的网页版。
2025-02-16
人工智能对现在时代有什么冲击
人工智能对现在时代的冲击主要体现在以下几个方面: 1. 劳动力市场:预计在未来几年对劳动力市场产生重大影响,包括好的和坏的方面,但工作变化速度比多数人想象的慢。 2. 社会发展:使社会重新进入不断扩张的世界,人们可以再次专注于正和游戏,天生的创造和彼此有用的欲望将得到前所未有的放大。 3. 技术进步:深度学习有效,随规模扩大预期改善,能帮助解决难题,模型将作为个人助理执行特定任务,促进各领域科学进展。 4. 资源与普及:降低计算成本以普及人工智能,否则可能导致其成为有限资源,引发战争并成为富人工具。 5. 社会变革:社会和经济将发生长期巨大变革,人们会发现新的做事、互助和竞争方式。 6. 不均衡影响:AGI 将产生不均衡影响,一些行业变化小,科学进步可能更快,许多商品价格大幅下跌,奢侈品和受限资源价格上涨。 7. 公共政策:关于如何将人工智能系统融入社会的公共政策和集体意见非常重要,要权衡安全性和个人授权。 8. 社会控制:存在专制政府利用人工智能进行大规模监控从而剥夺人民自主权的风险。
2025-02-16