AI合规审核，产品包装信息如何借助AI进行智能审核

以下是一些生成图片的 AI 工具： 1. 图生图工具： Artguru AI Art Generator：在线平台，生成逼真图像，为设计师提供灵感，丰富创作过程。 Retrato：将图片转换为非凡肖像，有 500 多种风格选择，适合制作个性头像。 Stable Diffusion Reimagine：新型 AI 工具，通过稳定扩散算法生成精细、具细节的全新视觉作品。 Barbie Selfie Generator：专为喜欢梦幻童话风格的人设计，能将上传的照片转换为芭比风格，效果好。 2. 图片生成 3D 建模工具： Tripo AI：VAST 发布的在线 3D 建模平台，能利用文本或图像在几秒钟内生成高质量且可立即使用的 3D 模型。 Meshy：功能全面，支持文本生成 3D、图片生成 3D 以及 AI 材质生成。 CSM AI：支持从视频和图像创建 3D 模型，Realtime Sketch to 3D 功能支持通过手绘草图实时设计 3D 形象。 Sudo AI：支持通过文本和图像生成 3D 模型，适用于游戏领域的模型生成。 VoxCraft：免费 3D 模型生成工具，能将图像或文本快速转换成 3D 模型，并提供多种功能。 3. 文生图工具： DALL·E：OpenAI 推出，可根据输入的文本描述生成逼真的图片。 StableDiffusion：开源，能生成高质量图片，支持多种模型和算法。 MidJourney：因高质量图像生成效果和用户友好界面设计受欢迎，在创意设计人群中流行。 您可以在 WaytoAGI 网站（https://www.waytoagi.com/category/104 ）查看更多文生图工具。但需注意，这些工具可能存在一些局限，如偶尔性能不稳定、生成内容不当等问题。

以下是一些关于用 AI 变现的方式： 1. 开发智能体：例如像 May 用 coze 捏了一个口语陪练 bot，并在豆包 APP 上随时可用。可以通过提供独特的智能体服务来实现变现。 2. AI 写作服务： 项目启动：确定目标客户群体，如大学生、职场人士、自媒体从业者等，并选择合适的 AI 写作工具。 准备阶段：学习并实践 AI 写作技术，构建团队。 商业模式构建：确定服务内容，如提供论文、报告、文案等直接写作服务，制定质量控制标准。 运营与推广：在淘宝等电商平台开设店铺展示并销售写作服务，建立写作培训社群，通过社交媒体和线下活动进行品牌和社群建设，与其他团队合作共同开发新项目。 项目优化与发展：持续关注 AI 技术进展，根据市场需求拓展新服务和产品，收集客户反馈优化服务。 3. 艺术创作：生成式 AI 产品可服务于各种用例，从消费者“仅为了娱乐”地创造内容，到创作者或个体创业者通过内容实现盈利。例如 Lensa 应用，生成式 AI 工具已在多种媒介中推出。

以下是一些可以帮助您优化 PPT 排版的 AI 工具和相关思路： 1. 爱设计：操作方式基于 Markdown 语法的内容来完成 PPT 生成。具体步骤可移步到 MindShow、闪击、爱设计等章节。下载后的 PPT 可按照公司要求自行删改内容以优化字体、图片等元素。 2. Gamma、AiPPT、iSlide、创客贴、WPS 等：这些工具对文本的多级排列有更高要求，便于摒弃呆板单调的表现形式，一键切换多元模版。熟练使用有助于提高效率，最终的排版效果可由操作者决定。 3. WPS AI：可以帮助生成 PPT 大纲并进行优化，还能根据您的要求修改主题配色和字体。 您可以根据自己的需求选择适合的工具来优化 PPT 排版。

以下是新手学习 AI 的方法和建议： 1. 了解 AI 基本概念： 阅读「」部分，熟悉 AI 的术语和基础概念，包括其主要分支（如机器学习、深度学习、自然语言处理等）以及它们之间的联系。 浏览入门文章，了解 AI 的历史、当前的应用和未来的发展趋势。 2. 开始 AI 学习之旅： 在「」中，找到为初学者设计的课程，特别推荐李宏毅老师的课程。 通过在线教育平台（如 Coursera、edX、Udacity）上的课程，按照自己的节奏学习，并有机会获得证书。 3. 选择感兴趣的模块深入学习： AI 领域广泛，如图像、音乐、视频等，可根据兴趣选择特定模块深入学习。 掌握提示词的技巧，它上手容易且很有用。 4. 实践和尝试： 理论学习后，实践是巩固知识的关键，尝试使用各种产品做出作品。 在知识库提供了很多大家实践后的作品、文章分享，欢迎实践后的分享。 5. 体验 AI 产品： 与现有的 AI 产品进行互动，如 ChatGPT、Kimi Chat、智谱、文心一言等 AI 聊天机器人，了解其工作原理和交互方式，获得对 AI 在实际应用中表现的第一手体验，并激发对 AI 潜力的认识。 对于中学生学习 AI，建议如下： 1. 从编程语言入手学习： 可以从 Python、JavaScript 等编程语言开始学习，学习编程语法、数据结构、算法等基础知识，为后续的 AI 学习打下基础。 2. 尝试使用 AI 工具和平台： 可以使用 ChatGPT、Midjourney 等 AI 生成工具，体验 AI 的应用场景。 探索一些面向中学生的 AI 教育平台，如百度的“文心智能体平台”、Coze 智能体平台等。 3. 学习 AI 基础知识： 了解 AI 的基本概念、发展历程、主要技术如机器学习、深度学习等。 学习 AI 在教育、医疗、金融等领域的应用案例。 4. 参与 AI 相关的实践项目： 参加学校或社区组织的 AI 编程竞赛、创意设计大赛等活动。 尝试利用 AI 技术解决生活中的实际问题，培养动手能力。 5. 关注 AI 发展的前沿动态： 关注 AI 领域的权威媒体和学者，了解 AI 技术的最新进展。 思考 AI 技术对未来社会的影响，培养对 AI 的思考和判断能力。 记住，学习 AI 是一个长期的过程，需要耐心和持续的努力。不要害怕犯错，每个挑战都是成长的机会。随着时间的推移，您将逐渐建立起自己的 AI 知识体系，并能够在这一领域取得成就。完整的学习路径建议参考「通往 AGI 之路」的布鲁姆分类法，设计自己的学习路径。

以下是关于 AI 辅助教案设计的相关内容： 一、PPT 生成工具及相关内容 1. 剪映：图文成片（只需提供文案，自动配图配音）。 2. BibiGPT：可以支持小红书、B站等网站视频的归纳总结，还可以提问互动，答案还会附上对应的视频节点。推荐链接：https://bibigpt.co/r/Bm63FV 、https://bibigpt.co/ 。 3. Kimi.ai：思维导图图片转 PPT。 4. AI 辅助 PPT 的原理和作用： 减轻排版工作的压力。 生成打底的内容，减轻人写内容的工作。 文章生成 PPT，是让 AI 帮忙摘要内容，生成大纲列表；主题生成 PPT，让 AI 根据主题扩充成大纲列表，乃至具体内容。 有的网站，如 tome、gamma，配图也是由 GenAI 根据页面内容生成的。 二、AI 在教学设计中的应用 1. 支持教学目标设定和教学活动设计，使教学更加个性化、精准和高效。 2. 能根据不同学生的学习需求，提供差异化教学内容，提高学习效果。 3. 提供在教学设计中整合 AI 的具体方法和步骤，如利用 AI 工具进行学情分析、智能推荐等。 三、智慧课程相关 1. 概念示意图生成工具：http://Napkin.ai 。 2. 清华的探索：包括 AI 如何协助教师、教师提供数字资源、智慧课程 AI 助教（线上助教一对一）、如何手搓和优化 AI 助教、设计和实现在线助教的功能、自建专用平台（网站）等。 3. 上海交大案例：写作辅导、风景园林简史。 4. 武汉大学 AI 助教“珞珞”与“珈珈”，“人在回路”的原因：现阶段 AI 能力只能达到 Level 2，只能作为“副驾”，作用包括解决 AI 系统的局限性，提高系统准确性和可靠性；持续优化系统，提升学习体验；伦理和价值观把控，保障教学安全。 5. 人机智慧学习协作框架：包括助理、职责、任务、监管、沟通、指导负责任等，把 AI 想象成您的助理/伙伴/下属，如 CoPilot 。 四、生成式 AI 对课件制作与微课生成的影响 带来颠覆性变革。

以下是一些对自媒体创作有用的 AI 软件或工具： 1. AI 研究工具：Claude、ChatGPT、Bing Chat、Perplexity。 2. 图片处理：DallE、Leonardo、BlueWillow、Midjourney。 3. 版权写作：Rytr、Copy AI、Wordtune、Writesonic。 4. 设计：Canva、Clipdrop、Designify、Microsoft Designer。 5. 网站搭建：10Web、Framer、Hostinger、Landingsite。 6. 视频处理：Klap、Opus、Invideo、Heygen。 7. 音频处理：Murf、LovoAI、Resemble、Eleven Labs。 8. SEO 优化：Alli AI、BlogSEO、Seona AI、Clearscope。 9. Logo 设计：Looka、LogoAI、Brandmark、Logomaster。 10. 聊天机器人：Droxy、Chatbase、Voiceflow、Chatsimple。 11. 自动化工具：Make、Zapier、Bardeen、Postman。 此外，中文的内容仿写 AI 工具推荐： 1. 秘塔写作猫：https://xiezuocat.com/ 写作猫是 AI 写作伴侣，能推敲用语、斟酌文法、改写文风，还能实时同步翻译。支持全文改写，一键修改，实时纠错并给出修改建议，智能分析文章的各类属性，为文章的正负情感、情绪强度和易读性打分。 2. 笔灵 AI 写作：https://ibiling.cn/ 是得力的智能写作助手，能处理心得体会、公文写作、演讲稿、小说、论文等，支持一键改写/续写/扩写，智能锤炼打磨文字。 3. 腾讯 Effidit 写作：https://effidit.qq.com/ 智能创作助手 Effidit 由腾讯 AI Lab 开发，能提升写作者的写作效率和创作体验。 更多 AI 写作类工具可以查看：https://www.waytoagi.com/sites/category/2 （内容由 AI 大模型生成，请仔细甄别。）

以下是关于借助 AI 进行产品保证信息合规审核的一些建议： 1. 建立用户的举报和响应机制：在网站建立相关投诉举报机制，如设置侵权举报按钮，简化举报流程，并建立快速响应团队，负责评估收到的侵权举报，并在必要时采取法律行动。 2. 对用户进行潜在风险提示，明确用户责任与义务：在用户协议中详细列出禁止侵权行为的条款，并明确违反协议的法律后果。通过用户教育活动，如在线研讨会、指南和常见问题解答，提高用户对版权的认识。 3. 企业应当深入钻研相关法律法规，深化版权合规流程： 定期组织知识产权法律培训，确保团队成员对相关法律法规有深刻理解，涵盖适用于 AI 生成内容的版权法、AI 创新的专利申请策略，以及对国际知识产权法律差异的理解等内容。 建立专门的法律合规团队，其职责不仅是监控，还需主动解释新法律变动对公司运营的影响，包括对新立法进行影响分析、从法律角度对产品开发提供建议，以及制定内部政策以指导公司对法律更新的响应。 制定严格的数据来源审核流程，确保所有用于训练 AI 的数据均获得明确的版权授权。对于 AI 生成的内容，应实行版权审核机制，以确保这些内容要么是原创的，要么已经得到授权使用。 4. 建立企业内容过滤与监控系统：开发或采用先进的内容识别技术，如图像识别和文本匹配，自动识别并过滤潜在的侵权内容。同时，建立内容监控小组，负责人工审核由用户生成的内容，确保过滤系统的准确性。通过结合使用技术和人工审核，提高识别侵权内容的能力，保护企业和用户免受侵权风险。

字节在安全审核业务中可能运用到的大模型包括： 1. Claude2100k 模型，其上下文上限是 100k Tokens，即 100000 个 token。 2. ChatGPT16k 模型，其上下文上限是 16k Tokens，即 16000 个 token。 3. ChatGPT432k 模型，其上下文上限是 32k Tokens，即 32000 个 token。 大模型的相关知识： 1. 大模型中的数字化便于计算机处理，为让计算机理解 Token 之间的联系，需把 Token 表示成稠密矩阵向量，这个过程称为 embedding，常见算法有基于统计的 Word2Vec、GloVe，基于深度网络的 CNN、RNN/LSTM，基于神经网络的 BERT、Doc2Vec 等。 2. 以 Transform 为代表的大模型采用自注意力机制来学习不同 token 之间的依赖关系，生成高质量 embedding。大模型的“大”指用于表达 token 之间关系的参数多，例如 GPT3 拥有 1750 亿参数。 3. 大模型的架构包括 encoderonly（适用于自然语言理解任务，如分类和情感分析，代表模型是 BERT）、encoderdecoder（同时结合 Transformer 架构的 encoder 和 decoder 来理解和生成内容，代表是 google 的 T5）、decoderonly（更擅长自然语言生成任务，典型使用包括故事写作和博客生成，众多 AI 助手基本都来自此架构）。大模型的特点包括预训练数据非常大（往往来自互联网，包括论文、代码、公开网页等，一般用 TB 级数据进行预训练）、参数非常多（如 Open 在 2020 年发布的 GPT3 已达到 170B 的参数）。

字节在审核安全业务方面可以运用的 AI 包括： 1. OpenAI 的审核（Moderation）Endpoint：可用于检查内容是否符合使用策略，其模型分为 hate（表达、煽动或宣扬基于种族、性别等的仇恨内容）、hate/threatening（仇恨内容且包括对目标群体的暴力或严重伤害）、selfharm（宣扬、鼓励或描绘自残行为）、sexual（旨在引起性兴奋的内容）、sexual/minors（包含未满 18 周岁的个人的色情内容）、violence（宣扬或美化暴力或歌颂他人遭受苦难或羞辱的内容）、violence/graphic（以极端血腥细节描绘死亡、暴力或严重身体伤害的暴力内容）等类别。在监视 OpenAI API 的输入和输出时，可以免费使用审查终结点，但目前不支持监控第三方流量，且对非英语语言的支持有限。 2. 专利审查方面的 AI： 专利趋势分析和预测：AI 可以分析大量的专利数据，识别技术发展趋势和竞争情报，帮助企业和研究机构制定战略决策。示例平台如 Innography、PatSnap。 具体 AI 应用示例： Google Patents：使用 AI 技术进行专利文献的全文检索和分析，提高了专利检索的准确性和效率。 IBM Watson for IP：利用 NLP 和机器学习技术，自动化地进行专利检索、分类和分析，减少了人工工作量，提高了专利审查的效率和准确性。 其他应用： 专利检索与分类：通过自然语言处理（NLP）和机器学习算法，自动识别和分类专利文献。示例平台如 Google Patents、IBM Watson for IP。 专利分析和评估：分析专利文本，评估专利的新颖性和创造性，预测专利的授权可能性。示例平台如 TurboPatent、PatentBot。 自动化专利申请：帮助自动生成专利申请文件，减少人工编写和审查时间。示例平台如 Specifio、PatentPal。 专利图像和图表分析：分析专利申请中的图像和图表，帮助识别和分类技术内容。示例平台如 Aulive、AIpowered image recognition tools。 请注意，以上内容由 AI 大模型生成，请仔细甄别。

智能体的内容审核主要包括以下几个方面： 1. 输入侧防御： 传统防御手段可用，结合大模型特性，进行意图识别、语义匹配、提示词与模型输入响应及语义结构分析，综合判断用户输入是否恶意。 2. 模型侧防御： 有模型训练能力和大模型厂商应增强安全性，从对抗训练到安全微调，到带安全任务的多任务学习，以及在整体对话中进行安全性上下文动态感知等，但要平衡安全性与模型性能。 开发者虽无法训练模型，但能在开发中带着安全意识优化应用和系统提示词，加入安全引导和禁止内容。 3. 输出侧防御： 传统防御和内容过滤手段均可使用，基于大模型特点，可进行提示词、私有数据泄露等检查，判断是否有事实性错误、脱离话题、乱码文本、不正确格式、错误代码等。 护栏项目可对输入、输出进行检测和防护，检测项可能较简单。 在「Agent 共学」之 coze 模板搭建大赛的评审规则中，分数构成包括智能体评分（70%）和说明文档评分（30%）。智能体评分维度包括规范性（20 分）、专业性（30 分）、技术性（30 分）、体验性（20 分）。说明文档评分维度包括作品创意（40 分）、实现原理与功能（40 分）、文档结构（20 分）。 Claude2 经过专门训练以保证无害性，是筛查涉及暴力、非法或色情活动消息的良好工具。可通过示例提示评估用户消息是否包含不适当内容，根据情况回复，Claude 的回答可传递给另一个提示说明后续操作。

以下是关于智能体平台审核的相关信息： 在 Zion 中配置变现模板时，智能体沟通页面采用 OAuth 鉴权机制。获取 Coze bot 应用鉴权密钥需在 Coze 主页操作，生成的公私钥要妥善保管。获取 Bot ID 则要进入自己的智能体在地址栏内复制相关数字，且 bot 发布时要选择 Agent as API，并记得勾选 API 及 WEB SDK。Coze bot 发布存在审核周期，一般为 1 30 分钟，若未审核通过或首次发布处于审核状态，bot 将无法被其他用户访问，需确认发布成功。 轨道智能体被赋予更高级目标和更多自由度，受程序性知识指导，拥有预定义工具并受审查措施约束。运行时会有规划智能体评估应用程序状态、选择并执行最佳链条等模式，此架构可能需要额外的数据基础设施支持。 在「Agent 共学」之 coze 模板搭建大赛中，评审方为扣子和火山引擎。总分 100 分，由智能体评分（70%）和说明文档评分（30%）构成。智能体评分维度包括规范性、专业性、技术性和体验性；说明文档评分维度包括作品创意、实现原理与功能、文档结构。

以下是关于智能体审核的相关内容： 在“Agent 共学”之 coze 模板搭建大赛中，评审规则如下： 评审方为扣子、火山引擎。 分数构成：总分（100 分）=智能体评分（70%）+说明文档评分（30%）。 智能体评分维度： 规范性（20 分）：考察智能体基础信息、搭建的规范性，包括开场白设置是否简明清晰；交互、信息使用等是否符合活动要求。 专业性（30 分）：智能体是否有实用的落地场景，能否解决所属专业领域内的问题。 技术性（30 分）：智能体搭建完整度，功能设计的逻辑性、技术实现的成熟度以及整体方案的稳定性。考察 Bot 是否充分利用了扣子专业版的各项功能，如插件工具、知识库、数据库记忆能力和工作流设计等，Bot 整体功能是否可用且稳定。 体验性（20 分）：考察智能体的用户体验质量，包括交互自然度、响应及时性和准确性等。 说明文档评分维度： 作品创意（40 分）：智能体搭建的创意思路。 实现原理与功能（40 分）：整体编排逻辑，各功能实现原理。 文档结构（20 分）：结构完整，语言简洁，逻辑清晰。 在企业自动化方面，决策智能体的应用案例包括： 以步骤。但是，Anterior 经常遇到需要子链的更复杂的任务，在这种情况下，智能体必须选择最佳方法，然后才能进入下一个节点。它会在每次决策时更新自己的状态，并一直进行到最终确定。 其他领域也在利用决策智能体，包括正在为 KYC 建立智能体。 在 Coze 变现模板配置中，关于智能体沟通页面： 在 Zion 中采用 OAuth 鉴权机制，有效防止应用被未授权的第三方直接调用，确保 Tokens 的安全使用。 获取 Coze bot 应用鉴权密钥：在 Coze 主页点击左下方扣子 API，选择 Oauth 授权模式，接着添加新令牌，并配置基本信息。在创建 Key 的过程中，系统将生成一对公钥和私钥（私钥需要下载到电脑上单独打开）。最后，勾选全部权限。配置完成后可获得 OAuth 应用 ID 以及一对公私钥，请妥善保管这些密钥，切勿与他人共享，以确保应用安全。 获取 Bot ID：进入自己的智能体在地址栏内复制“bot/”之后的数字，并且 bot 发布时一定要选择 Agent as API。 在 Coze 上发布你的 bot：bot 发布时记得勾选 API 及 WEB SDK，Coze bot 发布存在审核周期，一般在 130 分钟，若从未审核通过或首次发布处于审核状态下，你的 bot 将无法正常被其他用户访问，务必确认你的智能体已发布成功。

以下是为您提供的本地化大模型及搭建合规法律知识库的方法： 一、通过 Open WebUI 使用大模型 1. 首先访问相关网址。打开页面时需使用邮箱注册账号。 2. 登陆成功后，若您使用过类似 ChatGPT 的大模型对话网站，对该页面不会陌生。 3. Open WebUI 一般有两种使用方式： 聊天对话。 RAG 能力，即让模型根据文档内容回答问题，这是构建知识库的基础之一。 4. 如果要求不高，此时已搭建本地大模型，并通过 Web UI 实现对话功能。 5. ChatGPT 访问速度快且回答效果好的原因： 速度快是因为 GPT 大模型部署的服务器配置高。 效果好是因为 GPT 大模型的训练参数多、数据更优及训练算法更好。 二、您的硬件达标了么 运行大模型需要很高的机器配置，个人玩家大多负担不起。以下是不同类型大模型的配置要求： 1. 生成文字大模型： 最低配置：8G RAM + 4G VRAM 建议配置：16G RAM + 8G VRAM 理想配置：32G RAM + 24G VRAM（如果要跑 GPT3.5 差不多性能的大模型） 2. 生成图片大模型（比如跑 SD）： 最低配置：16G RAM + 4G VRAM 建议配置：32G RAM + 12G VRAM 3. 生成音频大模型： 最低配置：8G VRAM 建议配置：24G VRAM 最低配置运行非常慢，不建议使用。但这不妨碍我们亲自实操一遍，以加深对大模型构建知识库底层原理的了解。若想要更顺滑的体验知识库，可以参考文章： 三、本地知识库进阶 若要更灵活掌控知识库，需额外软件 AnythingLLM。它包含 Open WebUI 的所有能力，并额外支持以下能力： 1. 选择文本嵌入模型。 2. 选择向量数据库。 AnythingLLM 安装和配置 安装地址：https://useanything.com/download 。安装完成后进入配置页面，主要分为三步： 1. 第一步：选择大模型。 2. 第二步：选择文本嵌入模型。 3. 第三步：选择向量数据库。 构建本地知识库 AnythingLLM 中有 Workspace 的概念，可创建独有的 Workspace 与其他项目数据隔离。具体步骤： 1. 首先创建一个工作空间。 2. 上传文档并在工作空间中进行文本嵌入。 3. 选择对话模式。AnythingLLM 提供两种对话模式： Chat 模式：大模型会根据自己的训练数据和上传的文档数据综合给出答案。 Query 模式：大模型仅依靠文档中的数据给出答案。 4. 测试对话。完成上述配置后，即可与大模型进行对话。 四、写在最后 “看十遍不如实操一遍，实操十遍不如分享一遍”。若您对 AI Agent 技术感兴趣，可以联系我或者加我的免费知识星球（备注 AGI 知识库）。

欧盟人工智能法案的禁止性规定主要包括以下方面： 1. 全面禁止人工智能用于生物识别监控、情绪识别、预测性警务。 公共空间中的“实时”远程生物识别系统被禁止。 “邮寄”远程生物特征识别系统，仅在起诉严重犯罪且经司法授权后除外。 禁止使用敏感特征（如性别、种族、民族、公民身份、宗教、政治取向）的生物识别分类系统。 禁止预测警务系统（基于分析、位置或过去的犯罪行为）在执法、边境管理、工作场所和教育机构中的应用。 禁止在执法、边境管理、工作场所和教育机构中的情绪识别系统。 禁止从互联网或闭路电视录像中无目的地抓取面部图像以创建面部识别数据库。 2. ChatGPT 等生成式人工智能系统必须披露内容是人工智能生成的。 3. 用于在被认为高风险的选举中影响选民的人工智能系统受到限制。 这些规则旨在促进以人为本、值得信赖的人工智能的应用，并保护健康、安全、基本权利和民主免受其有害影响。同时，欧盟在平衡人工智能创新发展与安全规范方面更倾向于保护欧盟境内人员的安全和维护欧盟价值观。

以下是为您找到的与 2024 年生成式人工智能相关的内容： 《2024 年生成式人工智能海外合规白皮书（东南亚篇）》由垦丁律师事务所联合 WEEE Consulting 和 Boosterhub 撰写，深入分析了东南亚地区生成式人工智能（AI）的产业现状、监管框架及合规要求。报告涵盖了新加坡、越南、泰国、马来西亚、印度尼西亚和菲律宾六国，探讨了 AI 产品合规性、数据本地化、跨境数据传输、内容安全和知识产权等关键问题。报告指出，尽管东南亚国家在 AI 发展上展现出潜力，但各国法规和伦理标准存在差异，对 AI 的法律监管和合规要求也各不相同。 2024 年 8 月 26 日的《》，其中提到上周，Ideogram 推出功能强大的 2.0 图像生成模型，同时 Jamba 1.5 系列在非 Transformer 架构上取得突破。AI 工具如 ComfyUI 和 Cluade 更新，Cursor 获巨资融资。Google 的 Gemini AI 项目新增技术领导，亚马逊通过 AI 工具极大提升代码开发效率。 此外，还有其他一些相关研究报告，如： 《爱分析：2024 智能办公厂商全景报告》强调智能办公系统在企业数字化转型中的关键作用。 《平安证券：AI 系列深度报告（五）AI 手机》指出 AI 手机的发展重心正逐步向端侧转移，全球出货量将呈现指数级增长。 关于 2024 年人工智能的报告还包括： 2024 人工智能报告中提到，欧盟人工智能法案获得批准并正式生效，欧洲成为世界上第一个全面采用人工智能监管框架的地区。美国大型实验室努力应对欧洲监管，中国人工智能监管进入执行时代，美国对中国实施更严格的出口管制和投资限制。 《生成式 AI 季度数据报告 2024 月 13 月》，作者为郎瀚威 Will、张蔚 WeitoAGI、江志桐 Clara ，报告包含总体流量概览、分类榜单等内容。 您可在知识星球下载其它一些研究报告： 。公众号回复“2024 一季度”，可以获得《生成式 AI 季度数据报告 2024 月 13 月》的 PDF 。

大模型的安全问题包括以下方面： 1. 对齐保障：通过对齐（指令调优），如 ChatGPT 从 GPT3 经过对齐而来，使其更好地理解人类意图，增加安全保障，确保不输出有害内容。对齐任务可拆解为监督微调及获取奖励模型和进行强化学习来调整输出分布。例如 LLAMA2 使用安全有监督微调确保安全，强化学习能让模型根据人类反馈更细粒度思考答案的安全性，面对训练分布外数据也能拒绝不当回答。 2. 数据过滤：在预训练阶段对数据进行过滤，如 baichuan2 采用此技术减少有害输出，但因数据关联性，仅靠此方法可能不够，模型仍可能从关联中学到有害内容，且面对不良信息时可能因缺少知识而处理不当。 3. 越狱问题：用户可能通过越狱（Jailbreak）使模型的对齐失效，重新回答各种问题。 大模型的特点包括： 1. 架构：分为 encoderonly、encoderdecoder、decoderonly 三类，目前熟知的 AI 助手多为 decoderonly 架构，由 transformer 衍生而来。 2. 规模：预训练数据量大，来自互联网的多种来源，且参数众多，如 GPT3 已达 170B 的参数。 GPT3 与 ChatGPT 相比，除形式不同外，安全性也有差别。