Navigate to WaytoAGI Wiki →
Home/question.detail.breadcrumb.questionList/question.detail.breadcrumb.questionDetail

开源音频质量检测模型有哪些？

Answer

以下为一些开源音频质量检测模型：

此外，还有：

  • VALL-EX：一个开源的多语言文本到语音合成与语音克隆模型。它支持多种语言（英语、中文和日语）和零样本语音克隆，具有语音情感控制和口音控制等高级功能。
  • 智谱·AI 自 2019 年成立以来推出并开源的多款模型，具体可参考智谱·AI 开源模型列表。但请注意，Token 数代表了模型支持的总 Token 数量，包括了输入+输出的所有 token，且一个 token 约等于 1.8 个汉字。
Content generated by AI large model, please carefully verify (powered by aily)

References

模型（Models）

[title]模型（Models）[heading2]概述我们还发布了开源模型，包括[Point-E](https://github.com/openai/point-e)，[Whisper](https://github.com/openai/whisper)，[Jukebox](https://github.com/openai/jukebox)和[CLIP。](https://github.com/openai/CLIP)访问[供研究人员的模型索引](https://platform.openai.com/docs/model-index-for-researchers)详细了解我们的研究论文中介绍了哪些模型以及InstructGPT和GPT-3.5等模型系列之间的差异。

Han：基于现有能力项目应用的思考

[title]Han：基于现有能力项目应用的思考|技术名称|应用场景|技术类型|简介|主要特点|工作原理|其他|官方网站|项目及演示|论文|Github|在线体验|附件|最后更新时间|<br>|-|-|-|-|-|-|-|-|-|-|-|-|-|-|<br>|VALL-EX：一个开源的多语言文本到语音合成与语音克隆模型。|这个和19年百度地图发布的语音定制功能使用的meitron模型很像。这个功能现在依然在百度地图提供的功能里，用户只需在百度地图App上录制20句话、20分钟左右即可生成个人完整语音包。|语音|该模型支持多种语言（英语、中文和日语）和零样本语音克隆，你只需要提供一个人短短几秒钟的录音（3-10秒），就能模仿出那个人的声音。此外，它还具有语音情感控制和口音控制等高级功能。<br><br>同时相对于其他模型，它更轻量、更快速...<br><br>VALL-EX最初由微软发布。但并未发布任何代码或预训练模型。作者认识到了这项技术的潜力和价值，复现并训练了一个开源可用的VALL-E X模型。|VALL-E X模型具有以下显著的功能特点：<br>1.多语言TTS（文本到语音合成）:支持英语、中文和日语，能进行自然和富有表现力的语音合成。<br>2.零样本语音克隆

智谱·AI 开源模型列表

[title]智谱·AI开源模型列表[智谱·AI开源模型列表](https://zhipu-ai.feishu.cn/wiki/YInmwPmyii67VRkzU3BchPNzncg)自2019年成立以来，智谱AI致力于大模型技术的研究和推广工作。在2023年，我们推出并开源了多款模型（如上图所示），它们具有不同的能力，开发者可以对这些模型进行使用和定制。本文档将列出相关模型及链接，方便开发者查阅。请注意：Token数代表了模型支持的总Token数量，包括了输入+输出的所有token。同时，Token数不代表用户输入字符的数量。在我们的模型中，一个token约等于1.8个汉字。

Others are asking
开源数字人
以下是关于开源数字人的相关信息： 组合方案： 1. 先剪出音频，使用 https://elevenlabs.io/speechsynthesis 或使用 GPTsovits克隆声音，做出文案的音频。 2. 使用 wav2lip 整合包，导入视频和音频，对口型得到视频。基础 wav2lip+高清修复整合包下载地址：https://github.com/Rudrabha/Wav2Lip 。 构建高质量的 AI 数字人： 建好的模型可以使用 web 前端页面（Live2D 就提供了 web 端的 SDK）或者 Native 的可执行程序进行部署，最后呈现在用户面前。笔者的开源数字人项目（项目地址：https://github.com/wanh/awesomedigitalhumanlive2d）选择了 live2d 作为数字人躯壳，因为这类 SDK 的驱动方式相比现在的 AI 生成式的方式更加可控和自然，相比虚幻引擎这些驱动方式又更加轻量和简单；另外超写实的数字人风格在目前的技术能力下，处理不好一致性问题，容易带来虚假的感觉或者产生恐怖谷效应，而卡通二次元的形象给人的接受度更高。关于 live2d 的 SDK 驱动方式可以参考官方示例：https://github.com/Live2D 。 相关产品：https://synclabs.so/
2024-12-26
态势感知、流量分析的AI开源项目有哪些
目前在态势感知和流量分析方面，较为知名的 AI 开源项目相对较少。但您可以通过以下途径去寻找和发现相关的开源项目： 1. 在开源代码托管平台如 GitHub 上，使用相关的关键词进行搜索。 2. 关注相关的技术论坛和社区，了解其他开发者的分享和推荐。 由于这方面的特定开源项目有限，建议您持续关注行业动态，以便及时获取新的信息。
2024-12-24
哪一个开源大语言模型对中文支持比较好？
以下是一些对中文支持较好的开源大语言模型： 1. OpenChineseLLaMA： 地址： 简介：基于 LLaMA7B 经过中文数据集增量预训练产生的中文大语言模型基座，对比原版 LLaMA，该模型在中文理解能力和生成能力方面均获得较大提升，在众多下游任务中均取得了突出的成绩。 2. BELLE： 地址： 简介：开源了基于 BLOOMZ 和 LLaMA 优化后的一系列模型，同时包括训练数据、相关模型、训练代码、应用场景等，也会持续评估不同训练数据、训练算法等对模型表现的影响。 3. Panda： 地址： 简介：开源了基于 LLaMA7B,13B,33B,65B 进行中文领域上的持续预训练的语言模型,使用了接近 15M 条数据进行二次预训练。 4. Llama2Chinese13bChat： 地址： 5. Gemma7bit： 地址： 此外，AndesGPT 在语言理解与抽取、角色扮演能力上排名国内前一，在代码、生成与创作、上下文对话能力上排名国内前三，各项能力较为均衡，聚焦在移动设备端的应用。Baichuan213BChat 是百川智能自主训练的开源大语言模型，是中文开源模型的主导力量。
2024-12-20
开源的开源的 LLM 微调推理，agent开发平台
以下是为您整理的关于开源的 LLM 微调推理、agent 开发平台的相关内容： LLM 作为 Agent 的“大脑”的特点： 1. 知识获取能力：通过预训练学习大量语言数据，掌握丰富语言信息和常识知识，能处理多种任务。 2. 指令理解：擅长解析人类语言指令，采用深度神经网络进行自然语言理解和生成，精准理解意图。 3. 泛化能力：在未见过的数据上表现良好，能利用先前知识处理新挑战，形成对语言结构的通用理解。 4. 推理和规划：能够进行逻辑推理和未来预测，分析条件制定最佳行动方案，在复杂环境中做出理性选择。 5. 交互能力：拥有强大对话能力，在多人多轮次对话中自然流畅交流，改善用户体验。 6. 自我改进：基于用户反馈和效果评估，通过调整参数、更新算法提升性能和准确性。 7. 可扩展性：可根据具体需求定制化适配，针对特定领域数据微调提高处理能力和专业化水平。 相关产品和平台： 1. ComfyUI：可在其中高效使用 LLM。 2. Vercel AI SDK 3.0：开源的工具，可将文本和图像提示转换为 React 用户界面，允许开发者创建丰富界面的聊天机器人。 3. OLMo7BInstruct：Allen AI 开源的微调模型，可通过资料了解从预训练模型到 RLHF 微调模型的所有信息并复刻微调过程。 4. Devv Agent：能提供更准确、详细的回答，底层基于 Multiagent 架构，根据需求采用不同 Agent 和语言模型。 实例探究： 1. ChemCrow：特定领域示例，通过 13 个专家设计的工具增强 LLM，完成有机合成、药物发现和材料设计等任务。 2. Boiko et al. 研究的 LLM 授权的科学发现 Agents：可处理复杂科学实验的自主设计、规划和执行，能使用多种工具。
2024-12-12
开源大模型训练推理，应用开发agent 平台
以下是一些关于开源大模型训练推理、应用开发 agent 平台的相关信息： Agent 构建平台： Coze：新一代一站式 AI Bot 开发平台，集成丰富插件工具，适用于构建各类问答 Bot。 Mircosoft 的 Copilot Studio：主要功能包括外挂数据、定义流程、调用 API 和操作，可将 Copilot 部署到多种渠道。 文心智能体：百度推出的基于文心大模型的智能体平台，支持开发者打造产品能力。 MindOS 的 Agent 平台：允许用户定义 Agent 的个性、动机、知识等，并访问第三方数据和服务或执行工作流。 斑头雁：2B 基于企业知识库构建专属 AI Agent 的平台，适用于客服、营销、销售等场景，提供多种成熟模板。 钉钉 AI 超级助理：依托钉钉优势，在处理高频工作场景如销售、客服、行程安排等方面表现出色。 Gemini 相关：大型语言模型的推理能力在构建通用 agents 方面有潜力，如 AlphaCode 团队构建的基于 Gemini 的 agent 在解决竞争性编程问题方面表现出色。同时，Gemini Nano 提升了效率，在设备上的任务中表现出色。 成为基于 Agent 的创造者的学习路径：未来的 AI 数字员工以大语言模型为大脑串联工具。Agent 工程如同传统软件工程学有迭代范式，包括梳理流程、任务工具化、建立规划、迭代优化。数字员工的“进化论”需要在 AI 能力基础上对固化流程和自主思考作出妥协和平衡。
2024-12-12
对企业来说直接用开源大模型和用国内大厂收费的大模型有哪些区别
对于企业来说，直接使用开源大模型和使用国内大厂收费的大模型主要有以下区别： 数据方面： 开源大模型的数据获取相对容易，但数据质量可能参差不齐。例如，OpenAI 训练大模型所用的中文数据虽源自中国互联网平台，但经过了深度处理，而国内中文互联网数据质量普遍被认为相对较低。 国内大厂收费的大模型可能在数据处理和质量上更具优势，但获取高质量数据对于企业尤其是初创企业来说成本较高且存在风险。 商业化落地方面： 客户在商业化落地时更关注实用性而非原创性，有时因成本低会倾向选择开源大模型的非原创技术。 但使用开源大模型可能存在拼装和套壳后强调原创，从而影响迭代能力，导致内耗、刷榜和作假等问题。 其他方面： 金沙江创投主管合伙人朱啸虎指出，使用大模型要有垂直行业数据，能实现数据闭环，并持续保持和客户的连接。对于大厂而言，要关心自身边界，而创业公司必须对客户和大厂有自身价值才能立足。 目前国内大模型的商业化落地仍处于拿着锤子找钉子的阶段，预计到今年年底头部大模型能基本达到 3.5 水平，明年 11 月有望到 4，但真正能落地的商业化场景有限。
2024-12-07
音频转文字
以下是关于音频转文字的相关信息： 推荐使用 OpenAI 的 wishper 进行语音转文字，相关链接：https://huggingface.co/openai/whisperlargev2 。还有一分钟搞定 23 分钟音频的相关项目：https://huggingface.co/spaces/sanchitgandhi/whisperjax ，此项目在 JAX 上运行，后端支持 TPU v48，与 A100 GPU 上的 PyTorch 相比，快 70 多倍，是目前最快的 Whisper API 。 语音转文本 API 提供转录和翻译两个端点，基于开源大型v2 Whisper 模型。可用于将音频转录为任何语言，将音频翻译并转录成英语。目前文件上传限制为 25MB，支持 mp3、mp4、mpeg、mpga、m4a、wav 和 webm 等输入文件类型。默认响应类型为包含原始文本的 JSON，可通过添加更多带有相关选项的form 行设置其他参数。 对于默认情况下 Whisper API 仅支持小于 25MB 的文件，若音频文件更长，需将其分成每个小于 25MB 的块或使用压缩后格式，避免在句子中间断开声音以避免丢失上下文字信息，可使用 PyDub 开源 Python 软件包来拆分声频文件，但 OpenAI 对于 PyDub 这样的第三方软件的可用性或安全性不作任何保证。 可以使用提示来提高 Whisper API 生成的转录质量，如改善特定单词或缩略语的识别、保留分段文件的上下文、避免标点符号的跳过、保留填充词汇、处理不同书写风格等。
2024-12-20
免费的文本转音频
以下是一些免费的文本转音频工具和相关的人工智能音频初创公司： 免费的文本转音频工具： Eleven Labs：https://elevenlabs.io/ ，是一款功能强大且多功能的 AI 语音软件，能高保真地呈现人类语调和语调变化，并能根据上下文调整表达方式。 Speechify：https://speechify.com/ ，是一款人工智能驱动的文本转语音工具，可作为多种应用程序使用，用于收听网页、文档、PDF 和有声读物。 Azure AI Speech Studio：https://speech.microsoft.com/portal ，提供了支持 100 多种语言和方言的语音转文本和文本转语音功能，还提供了自定义的语音模型。 Voicemaker：https://voicemaker.in/ ，可将文本转换为各种区域语言的语音，并允许创建自定义语音模型。 人工智能音频初创公司： ，将书面内容转化为引人入胜的音频，并实现无缝分发。 ，提供专业音频、语音、声音和音乐的扩展服务。 （被 Spotify 收购），提供完全表达的 AI 生成语音，带来引人入胜的逼真表演。 ，利用合成媒体生成和检测，带来无限可能。 ，一键使您的内容多语言化，触及更多人群。 ，生成听起来真实的 AI 声音。 ，为游戏、电影和元宇宙提供 AI 语音演员。 ，为内容创作者提供语音克隆服务。 ，超逼真的文本转语音引擎。 ，使用单一 AI 驱动的 API 进行音频转录和理解。 ，听起来像真人的新声音。 ，从真实人的声音创建逼真的合成语音的文本转语音技术。 ，生成听起来完全像你的音频内容。 请注意，以上内容由 AI 大模型生成，请仔细甄别。
2024-12-16
生成音频的AI
以下是关于生成音频的 AI 的相关信息： 游戏中的生成式 AI 音频： 声音和音乐是游戏体验的重要部分。在音效方面，AI 是一个有吸引力的开放领域，已有学术论文探讨在电影中生成“现场效果音”的想法，但在游戏中的商业产品尚少。例如为玩家角色生成脚步声，传统方法存在繁琐、重复和不真实的问题，更好的方式是使用实时的生成性 AI 模型制作现场效果音，能根据游戏参数响应。在音乐方面，由于游戏的时长和交互性，音乐创作面临挑战，而生成式 AI 有望解决。 人工智能音频初创公司： ：将书面内容转化为引人入胜的音频，并实现无缝分发。 ：提供专业音频、语音、声音和音乐的扩展服务。 （被 Spotify 收购）：提供完全表达的 AI 生成语音，带来逼真表演。 ：利用合成媒体生成和检测，带来无限可能。 ：一键使您的内容多语言化，触及更多人群。 ：生成听起来真实的 AI 声音。 ：为游戏、电影和元宇宙提供 AI 语音演员。 ：为内容创作者提供语音克隆服务。 ：超逼真的文本转语音引擎。 ：使用单一 AI 驱动的 API 进行音频转录和理解。 ：听起来像真人的新声音。 ：从真实人的声音创建逼真的合成语音的文本转语音技术。 ：生成听起来完全像你的音频内容。 谷歌 Generating audio for video 的工作原理： 为生成更高质量音频和引导模型生成特定声音，在训练过程中添加更多信息，包括 AI 生成的注释，包含声音详细描述和口语对话誊本。通过对视频、音频和附加注释进行训练，技术能学会将特定音频事件与各种视觉场景联系起来，并对注释或文本中的信息做出响应。
2024-12-16
提取音频中的文字
以下是为您整理的相关内容： 在 TTS 超全教程中，语音合成的文本前端作用是从文本中提取发音和语言学信息，任务包括文本正则化、将特殊符号和数字转换为文本、韵律预测、字形转音素、处理多音字和变调等。例如，“1.5 元”需转换成“一点五元”，“中国”要转化为拼音“zhong1 guo2”，还要准确判断“模型”“模样”中“模”字等多音字及“一个”“看一看”中“一”字的特殊发音情况，否则可能导致后续声学模型合成错误声学特征和不正确语音。 Suno 专属音乐生成功能上线，视频会根据画面匹配生成音乐，视频里的文字也可识别并转化为歌词，大家可尝试生成随手拍内容。 XiaoHu.AI 日报 10 月 28 日提到 NotebookLlama：Meta 的播客生成教程，包括使用 Llama 模型从 PDF 中提取文本生成干净的.txt 文件，转化文本为播客转录并进行戏剧化处理，最终将文本转换为播客音频，支持多种 TTS 模型。详细介绍链接：
2024-12-15
能够通过 给出 伴奏 和 歌词 生成音频文件
Suno 和 Udio 都推出了上传音频文件生成音乐的功能，很多行业大号借此做了各种无厘头编曲，短期能带来很多流量。此功能对于 AI 音乐的作用在于精确的控制力，有了前置旋律，可以精确控制每首歌的速度（Tempo），无需再背绕口的速度词，能精确控制想要的 BPM；旋律（Melody）方面，可自己制作简单旋律让 AI 补全并贯穿整首歌，实现旋律与速度的一谱变速，节省大量 Roll 旋律的时间；配器（Instrumentation）能按自己想法选择乐器，减少提示词里乐器不灵光的情况，还能选择特殊音色；合成（synthesizer）方面，当有两支 BPM 相同、调性相同的音乐时，可尝试更多拆分组合和好玩的效果。 上传音频节省了点数消耗，每月的点数可用于：用提示词多 Roll 一些和流派、心情、场景相关的曲子，减少限制让 AI 音乐发挥更多创造力，把好旋律存起来作为制作素材；用于 roll 更多细节调整，如让某段曲子升调提升作品品质。 UDIO 制作音乐时，除了更改每个部分的提示，还能指定单独的自定义歌词。构建 1.5 分钟长的独立歌曲的最简单工作流程为：使用常规创建模式生成中间（主要）部分，这是曲目的“核心”；为刚创建的部分输入扩展模式，在扩展放置区域中选择添加介绍选项并单击扩展，生成的两部分轨道长 1 分钟；进入 1 分钟曲目的扩展模式，选择“添加尾奏”并单击“扩展”，即可创作有正确开头和结尾的音乐。
2024-12-12
文本转音频
以下是关于文本转音频的相关信息： 在线 TTS 工具推荐： 1. Eleven Labs：https://elevenlabs.io/ ，是一款功能强大且多功能的 AI 语音软件，能高保真地呈现人类语调和语调变化，并能根据上下文调整表达方式。 2. Speechify：https://speechify.com/ ，是一款人工智能驱动的文本转语音工具，可作为多种平台的应用使用，用于收听网页、文档、PDF 和有声读物。 3. Azure AI Speech Studio：https://speech.microsoft.com/portal ，提供支持 100 多种语言和方言的语音转文本和文本转语音功能，还提供自定义的语音模型。 4. Voicemaker：https://voicemaker.in/ ，可将文本转换为各种区域语言的语音，并允许创建自定义语音模型。 人工智能音频初创公司列表： 1. 将书面内容转化为引人入胜的音频，并实现无缝分发。 2. 专业音频、语音、声音和音乐的扩展服务。 3. （被 Spotify 收购） 提供完全表达的 AI 生成语音，带来引人入胜的逼真表演。 4. 利用合成媒体生成和检测，带来无限可能。 5. 一键使您的内容多语言化，触及更多人群。 6. 生成听起来真实的 AI 声音。 7. 为游戏、电影和元宇宙提供 AI 语音演员。 8. 为内容创作者提供语音克隆服务。 9. 超逼真的文本转语音引擎。 10. 使用单一 AI 驱动的 API 进行音频转录和理解。 11. 听起来像真人的新声音。 12. 从真实人的声音创建逼真的合成语音的文本转语音技术。 13. 生成听起来完全像你的音频内容。 TTS 超全教程中的文本前端部分： 文本转音素（G2P/LTS）是将文本转换为注音表示的过程。最简单的方法是查词典，经过预处理和分词模块后，文本被切分为单词，利用词典查询单词对应的发音序列。对于带有缩略词、外来词的文本，情况较复杂，查询缩略词、本语种和外来词词典的优先级不同，输出的音素序列有时也会不同。较好的处理逻辑是，最特殊、最有可能的单词优先处理。首先处理缩略词的发音，之后处理本土词的发音，接下来处理英语单词，注意要将英语音素转换为本土音素。词典很难覆盖所有词，特别是语种构建初期，大部分词都是集外词，需要利用一些规则或模型给出单词的发音。构建文本转音素规则的一般步骤是： 内容由 AI 大模型生成，请仔细甄别。
2024-12-12
wifi和相机融合目标检测算法
图像融合是将两个或多个图像合成为一个新的图像，以获取比原始图像更全面和丰富的信息。可通过像素级融合、特征级融合和决策级融合等技术实现，在提高图像质量、增加信息量、遥感图像处理及计算机视觉和机器人技术中均有多种用途。 目标检测是计算机视觉领域的重要任务，旨在图像或视频中准确识别和定位特定对象。随着多模态数据的广泛应用，将不同模态信息融合能进一步提升目标检测的性能和鲁棒性。 图像融合和目标检测均是计算机视觉领域的重要技术，在多个领域有广泛应用前景和研究价值。 图像融合的大致原理是将多个不同图像合并成新图像以获得更准确、全面的信息，相关算法有小波变换、基于金字塔变换的多分辨率融合、基于区域的图像融合、基于特征的图像融合等。 目标检测的大致原理是在图像中找到特定目标并进行定位和识别，相关算法有基于深度学习的目标检测算法（如 RCNN、Fast RCNN、Faster RCNN、YOLO、SSD 等）、基于传统计算机视觉技术的目标检测算法（如 HOG、SIFT、SURF 等）。
2024-12-10
当前最好的开源目标检测
目前较好的开源目标检测算法包括： 基于深度学习的目标检测算法，如 RCNN、Fast RCNN、Faster RCNN、YOLO、SSD 等。 基于传统计算机视觉技术的目标检测算法，如 HOG、SIFT、SURF 等。 YOLOv8 是一款出色的目标检测跟踪模型，具有快速准确的多对象识别和定位能力，支持实例分割、人体姿态估计等，多平台兼容，是一站式视觉识别解决方案。其详细介绍可参考：https://docs.ultralytics.com/models/ ，GitHub 地址为：https://github.com/ultralytics/ultralytics
2024-11-04
音频质量检测方面SOTA模型有？
Gemini 模型在音频质量检测方面达到了 SOTA 水平。该模型是天生多模态的，在文本、图像、音频和视频上进行联合训练，在广泛的音频基准测试中表现出色。
2024-10-16
请阐述对比学习在图像分类和检测中的应用
在计算机视觉中，对比学习在图像分类和检测中有重要应用。 图像分类方面：图像分类是根据图像中的语义信息对不同类别的图像进行区分。对比学习通过让模型学习区分相似和不同的图像样本，从而更好地捕捉图像中的语义特征，提高分类的准确性。 目标检测方面：目标检测需要找出图像或视频中的目标物体，并检测出其位置和大小。对比学习可以帮助模型学习到更具判别性的特征表示，从而更准确地定位和识别目标物体。在多类别目标检测中，对比学习有助于区分不同类别的物体，提高检测的精度和效率。 总之，对比学习为图像分类和检测任务提供了有效的特征学习方法，有助于提升计算机视觉系统的性能。
2024-10-15
目标检测领域最新sota模型
以下是目标检测领域的一些最新模型： YOLOv8 目标检测跟踪模型：快速准确的多对象识别和定位，支持实例分割、人体姿态估计等，多平台兼容，是一站式视觉识别解决方案。详细介绍：https://docs.ultralytics.com/models/ ，GitHub：https://github.com/ultralytics/ultralytics 。 OpenAI 在 2024 年 2 月发布的 Sora 模型，是一个文本到视频的生成式 AI 模型，能够根据文本提示生成现实或想象场景的视频，在目标检测方面也有一定的应用和潜力。
2024-10-10
我计划检测一张图片中的玉米。我使用python怎么实现这个目的。
要使用 Python 检测一张图片中的玉米，您可以考虑使用一些图像处理和机器学习的库，比如 OpenCV 和 TensorFlow 等。 使用 OpenCV 可以进行图像的读取、预处理和特征提取。首先读取图片，然后可能需要进行一些图像增强、滤波等操作来改善图像质量，以便后续的检测。 如果使用 TensorFlow 等深度学习框架，可以构建一个卷积神经网络（CNN）模型来进行玉米的检测。您需要准备包含玉米和非玉米的大量图片数据集，并对数据进行标注，然后训练模型。 但具体的实现会比较复杂，需要您具备一定的图像处理和机器学习知识。
2024-09-18
评测模型生图好坏的标准
评测模型生图好坏的标准主要包括以下几个方面： 1. 模型选择： 基础模型（Checkpoint）：生图必需，不同模型适用于不同主题。 Lora：低阶自适应模型，可用于精细控制面部、材质、物品等细节。 ControlNet：控制图片中特定图像，如人物姿态、生成特定文字等。 VAE：类似于滤镜，可调整生图饱和度。 2. 提示词设置： 正向提示词（Prompt）：描述想要 AI 生成的内容。 负向提示词（Negative Prompt）：描述想要 AI 避免产生的内容。 3. 图片视觉质量： 自然度和美观度是关键指标。 可从数据和训练方法两方面提升，如使用特定的网络结构。 4. 文字生成能力： 目前未有模型具有良好的中文文字生成能力。 提升中文文字生成能力需从多方面准备数据。 需要注意的是，模型生图的效果并非完全由这些标准决定，还可能受到其他因素的影响，需要不断尝试和学习以获得更好的生图效果。
2024-12-26
ocr大模型的原理
OCR 大模型的原理如下： 1. 生成式：大模型根据已有的输入为基础，不断计算生成下一个字词（token），逐字完成回答。例如，一开始给定提示词，大模型结合自身存储的知识进行计算推理，算出下一个单词的概率并输出，新的输出与过去的输入一起成为新的输入来计算下一个词，直到计算出的概率最大时结束输出。 2. 预训练：大模型“脑袋”里存储的知识都是预先学习好的，这个预先学习并把对知识的理解存储记忆在“脑袋”里的过程称为预训练。预训练需要花费大量时间和算力资源，且在没有其他外部帮助的情况下，大模型所知道的知识信息可能不完备和滞后。 3. 规模效应：参数规模的增加使得大模型实现了量变到质变的突破，最终“涌现”出惊人的“智能”。就像人类自身，无论是物种进化还是个体学习成长，都有类似“涌现”的结构。
2024-12-26
目前字节有哪些可以运用到安全审核业务的大模型？
字节在安全审核业务中可能运用到的大模型包括： 1. Claude2100k 模型，其上下文上限是 100k Tokens，即 100000 个 token。 2. ChatGPT16k 模型，其上下文上限是 16k Tokens，即 16000 个 token。 3. ChatGPT432k 模型，其上下文上限是 32k Tokens，即 32000 个 token。 大模型的相关知识： 1. 大模型中的数字化便于计算机处理，为让计算机理解 Token 之间的联系，需把 Token 表示成稠密矩阵向量，这个过程称为 embedding，常见算法有基于统计的 Word2Vec、GloVe，基于深度网络的 CNN、RNN/LSTM，基于神经网络的 BERT、Doc2Vec 等。 2. 以 Transform 为代表的大模型采用自注意力机制来学习不同 token 之间的依赖关系，生成高质量 embedding。大模型的“大”指用于表达 token 之间关系的参数多，例如 GPT3 拥有 1750 亿参数。 3. 大模型的架构包括 encoderonly（适用于自然语言理解任务，如分类和情感分析，代表模型是 BERT）、encoderdecoder（同时结合 Transformer 架构的 encoder 和 decoder 来理解和生成内容，代表是 google 的 T5）、decoderonly（更擅长自然语言生成任务，典型使用包括故事写作和博客生成，众多 AI 助手基本都来自此架构）。大模型的特点包括预训练数据非常大（往往来自互联网，包括论文、代码、公开网页等，一般用 TB 级数据进行预训练）、参数非常多（如 Open 在 2020 年发布的 GPT3 已达到 170B 的参数）。
2024-12-25
大模型在金融领域的量化投研领域的应用
大模型在金融领域的量化投研领域有以下应用和特点： 1. 大型系统工程： 量化和大模型都需要大型计算集群，上万张卡的互联是对基础设施的极致挑战。量化对性能和效率有极致追求，交易指令速度至关重要；大模型在基础设施层面的每一点提升都能优化训练效率。 细节在大型系统工程中十分关键。量化交易系统包含多个方面，任何环节出问题都会导致交易系统失败；大模型预训练从数据到评估包含大量细节，如数据配比、顺序、训练策略等。 2. 本土化机会： 很多 Global 的量化基金到中国会水土不服，国家政策也限制其大规模开展业务，给国内量化基金崛起机会。 OpenAI、Google、Meta 等的模型中文能力一般，未对中国国情优化，不符合政策要求，给国内大模型公司本土化预训练机会。 两者都受政策影响极大，需要有效监管才能健康发展。 3. 其他相似之处： 少数精英的人赚大量的钱，做大模型和金融量化都不用很多人，但每个人都要绝顶聪明。 核心问题一样，下一个 token 预测和下一个股价预测类似。 都需要大量数据，都追求可解释性。 作者：黄文灏 源地址：https://zhuanlan.zhihu.com/p/646909899 最近和朋友讨论发现大模型预训练和金融量化有很多相似之处，作者恰好同时具有两者背景，做了对比。
2024-12-25
大模型在办公场景的应用
大模型在办公场景有诸多应用，具体如下： 基础办公提效：在 PPT、Excel、会议报告、策划会、文案包装、图文海报、客服机器人 bot 等方面，能从单个任务 task 到角色 role 再到角色间协同 collaboration 显著提高工作效率。 人力资源管理：覆盖招聘初期（如职位描述生成、简历分析、面试题设计）、员工绩效评估（分析员工工作表现，识别绩效趋势和提升点，为管理层提供数据支持的绩效反馈）以及员工培训与发展各个环节，提高工作效率。 通俗来讲，大模型是输入大量语料，让计算机获得类似人类的“思考”能力，能够理解自然语言，进行文本生成、推理问答、对话、文档摘要等工作。其训练和使用过程可类比为上学参加工作： 1. 找学校：训练大模型需要大量计算，GPU 更合适，只有购买得起大量 GPU 的才有资本训练自己的大模型。 2. 确定教材：大模型需要的数据量特别多，几千亿序列（Token）的输入基本是标配。 3. 找老师：即用合适的算法讲述“书本”中的内容，让大模型更好理解 Token 之间的关系。 4. 就业指导：为了让大模型更好胜任某一行业，需要进行微调（fine tuning）指导。 5. 搬砖：就业指导完成后，正式干活，比如进行翻译、问答等，在大模型里称之为推导（infer）。 在 LLM 中，Token 被视为模型处理和生成的文本单位，能代表单个字符、单词、子单词，甚至更大的语言单位，具体取决于所使用的分词方法（Tokenization）。Token 是原始文本数据与 LLM 可以使用的数字表示之间的桥梁。在将输入进行分词时，会对其进行数字化，形成一个词汇表（Vocabulary）。 此外，在游戏行业，大模型能降低成本，打造创新玩法，提供更好的游戏体验。如网易推出的首款 AI 手游《逆水寒》，将 AIGC 应用于美术开发，在 NPC 与玩家的交互上呈现独特剧情体验，还内嵌了全自动“AI 作词机”。在健身行业，AI 减重顾问既能解决售前客服问题，也能解决学员离开健身营之后的健康监护，提高学员体验。
2024-12-25
图像对比与图像搜索这块，有没有哪个ai大模型做的比较好比较深入的
在图像对比与图像搜索方面，以下是一些相关的 AI 大模型特点和应用： RAG（检索增强生成）：通过引用外部数据源为模型做数据补充，适用于动态知识更新需求高的任务。其原理是在基础大模型基础上引用外部数据，对搜索到的数据信息进行切片、拆分和语义理解，再根据用户提问进行检索和回答，但比基座模型更耗时。RAG 是一个检索生成框架，能够支持在本地运行。 AI 搜索：结合了多种能力，如 fine tuning、实时联网查询和查询知识源等，能够为用户整理出想要的内容。一些 AI 搜索平台专注于特定领域，如为程序员提供代码搜索。 多模态大模型：像能唱会跳、精通多种技能的机器人，能看见、听见、思考、说话，例如能识别物体、听取指令等。 生成式模型和决策式模型：决策式模型偏向逻辑判断，按预设程序固定输出；生成式模型偏随机性，能动态组合并结构化呈现，如在图像识别中，决策式模型返回关键词，生成式模型用语言表达结构化信息。
2024-12-25