以下是一份关于 AIGC 伦理检查清单的相关内容:
AIGC 概述:
AIGC 的分类及应用:
AIGC 触发的法律与道德风险:
1.4本章小结GenAI(即生成式AI)是一种能够从已有数据中学习并生成新的数据或内容的AI应用,利用GenAI创建的内容即AIGC(全称AI-Generated Content)。作为一种强大的技术,生成式AI能够赋能诸多领域,但也存在多重潜在的合规风险。目前,我国对AIGC的监管框架由《网络安全法》《数据安全法》及《个人信息保护法》构成,并与《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》、《科技伦理审查办法(试行)》等形成了共同监管的形势。AIGC主要分为语言文本生成、图像生成和音视频生成。语言文本生成利用马尔科夫链、RNN、LSTMs和Transformer等模型生成文本,如GPT-4和GeminiUltra。图像生成依赖于GANs、VAEs和Stable Diffusion等技术,应用于数据增强和艺术创作,代表项目有Stable Diffusion和StyleGAN 2。音视频生成利用扩散模型、GANs和Video Diffusion等,广泛应用于娱乐和语音生成,代表项目有Sora和WaveNet。此外,AIGC还可应用于音乐生成、游戏开发和医疗保健等领域,展现出广泛的应用前景。
国内目前主要是在《网络安全法》《数据安全法》以及《个人信息保护法》的框架下,由《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》、《科技伦理审查办法(试行)》共同监管AIGC行业。
重伦理道德,主要体现在两方面:(1)国家安全:不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、极端主义,(2)伦理道德:不得宣扬民族仇恨、民族歧视,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容。其中,GenAI工具和AIGC提供者应注意在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视。