直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

克隆自己的声音

回答

以下是关于克隆自己声音的相关信息：

GPT-SoVITS：

  • 这是一个声音克隆和文本到语音转换的开源 Python RAG 框架。
  • 只需 1 分钟语音即可训练一个自己的 TTS 模型。
  • 5 秒数据就能模仿您，1 分钟的声音数据就能训练出一个高质量的 TTS 模型，完美克隆您的声音。
  • 主要特点：
    • 零样本 TTS：输入 5 秒的声音样本即可体验即时的文本到语音转换。
    • 少量样本训练：只需 1 分钟的训练数据即可微调模型，提高声音相似度和真实感。
    • 跨语言支持：支持与训练数据集不同语言的推理，目前支持英语、日语和中文。
    • 易于使用的界面：集成了声音伴奏分离、自动训练集分割、中文语音识别和文本标签等工具，帮助初学者更容易地创建训练数据集和 GPT/SoVITS 模型。
    • 适用于不同操作系统：项目可以在不同的操作系统上安装和运行，包括 Windows。
    • 预训练模型：项目提供了一些已经训练好的模型，您可以直接下载使用。
  • GitHub：https://github.com/RVC-Boss/GPT-SoVITS
  • 视频教程：https://bilibili.com/video/BV12g4y1m7Uw/

前置数据获取处理：

  • 选择音频，开启切割。
  • 有噪音时，进行降噪处理。
  • 降噪处理完成，开启离线 ASR。

GPT-Sowits-TTS：

  • 训练集格式化：开启一键三连，耐心等待即可。
  • 微调训练：开启 SoVITS 训练和 GPT 训练。
  • 推理：开始推理 - 刷新模型 - 选择微调后的模型 - yoyo。
  • 成功：出现新的 URL，说明您自己的声音微调完毕，然后可以进行使用。

声音复刻：

  • 可以实现跨多语种语言的声音。

微软发布 Personal Voice：

  • 您只需要提供 1 分钟的语音样本，它就可以在几秒钟内克隆该样本语音，复制出一模一样的 AI 语音。
  • 生成的 AI 语音支持中文、西班牙语、德语等多达 100 种不同语言的语音输出。
  • Personal Voice 使用设备端机器学习技术，确保用户信息私密安全，同时与 LiveSpeech 无缝集成，让用户可以在与其他人交流时使用 Personal Voice AI 语音说话。
  • 微软在生成的 AI 语音中增加了水印安全和认证措施。
  • 一种特殊的水印被添加到生成的语音中，以便用户和客户可以识别出语音是使用 Azure AI Speech 合成的，以及具体使用了哪种语音。
  • 该功能将在西欧、美国东部和东南亚地区率先上线，并于 12 月 1 日上线公共预览版。
  • 官方网站：https://techcommunity.microsoft.com/t5/ai-azure-ai-services-blog/azure-ai-speech-launches-personal-voice-in-preview/ba-p/3982957
内容由 AI 大模型生成，请仔细甄别（powered by aily）

参考资料

GPT-SoVITS实现声音克隆

GPT-SoVITS：只需1分钟语音即可训练一个自己的TTS模型。GPT-SoVITS是一个声音克隆和文本到语音转换的开源Python RAG框架。5秒数据就能模仿你，1分钟的声音数据就能训练出一个高质量的TTS模型，完美克隆你的声音！根据演示来看完美适配中文，应该是目前中文支持比较好的模型。界面也易用。主要特点：1、零样本TTS：输入5秒的声音样本即可体验即时的文本到语音转换。2、少量样本训练：只需1分钟的训练数据即可微调模型，提高声音相似度和真实感。模仿出来的声音会更加接近原声，听起来更自然。跨语言支持：支持与训练数据集不同语言的推理，目前支持英语、日语和中文。3、易于使用的界面：集成了声音伴奏分离、自动训练集分割、中文语音识别和文本标签等工具，帮助初学者更容易地创建训练数据集和GPT/SoVITS模型。4、适用于不同操作系统：项目可以在不同的操作系统上安装和运行，包括Windows。5、预训练模型：项目提供了一些已经训练好的模型，你可以直接下载使用。GitHub：[https://github.com/RVC-Boss/GPT-SoVITS](https://t.co/BpHX4SlsO3)[…](https://t.co/BpHX4SlsO3)视频教程：[https://bilibili.com/video/BV12g4y1m7Uw/](https://t.co/Uo7WtSSUGO)[…](https://t.co/Uo7WtSSUGO)[[twi]@小互(@_twi(1).mp4](https://bytedance.feishu.cn/space/api/box/stream/download/all/RymsbKdweody4Cxwtsqc7Yuenxd?allow_redirect=1)使用：

GPT-SoVITS-实现 AIyoyo 声音克隆

1.[heading4]微调训练[content]1.开启SoVITS训练，&开启GPT训练[heading4]推理[content]1.开始推理-刷新模型-选择微调后的模型-yoyo[heading4]成功[content]出现新的URL，说明你自己的声音微调完毕，然后可以进行啦[heading3]四、声音复刻[heading4]开启声音复刻之旅吧[content]1.实现跨多语种语言的声音，不是梦[heading4]实践的样本[content]AIyoyo普通话-满江红[满江红普通话。wav](https://drive.weixin.qq.com/s?k=AJMA1Qc4AAwbkbzYu0AQ8AbQYrAGo)AIyoyo粤语版-满江红[满江红粤语。wav](https://drive.weixin.qq.com/s?k=AJMA1Qc4AAwsRaRfHrAQ8AbQYrAGo)[heading2]五、关于我[content]大家好～我是yoyo 🐱🐈坐标北京，铲屎官一枚🫡 AIGC的小白，持续进阶成长，致力于打造一个自己的智能体☕️以上期待能够给到各位一点启发感谢家属带我在“[通往AGI之路](https://waytoagi.feishu.cn/wiki/QPe5w5g7UisbEkkow8XcDmOpn8e)”打开新世界，接触有趣的事情，结识有趣的人

Han：基于现有能力项目应用的思考

|技术名称|应用场景|技术类型|简介|主要特点|工作原理|其他|官方网站|项目及演示|论文|Github|在线体验|附件|最后更新时间||-|-|-|-|-|-|-|-|-|-|-|-|-|-||微软发布Personal Voice：你可以克隆自己的声音说任何语言。|一直觉得百度地图里用户设定自己专属导航语音和现在AI拟声非常像，<br>百度地图用的是Meitron，用户只需在百度地图App上录制20句话、20分钟左右即可生成个人完整语音包。|语音|你只需要提供1分钟的语音样本，它就可以在几秒钟内克隆该样本语音，复制出一模一样的AI语音。<br>生成的AI语音支持中文、西班牙语、德语等多达100种不同语言的语音输出。<br>Personal Voice使用设备端机器学习技术，确保用户信息私密安全，同时与LiveSpeech无缝集成，让用户可以在与其他人交流时使用Personal Voice AI语音说话。<br>微软在生成的AI语音中增加了水印安全和认证措施。<br>一种特殊的水印被添加到生成的语音中，以便用户和客户可以识别出语音是使用Azure AI Speech合成的，以及具体使用了哪种语音。<br>该功能将在西欧、美国东部和东南亚地区率先上线，并于12月1日上线公共预览版。|||||[https://techcommunity.microsoft.com/t5/ai-azure-ai-services-blog/azure-ai-speech-launches-personal-voice-in-preview/ba-p/3982957](https://t.co/5U4OK58Etn)|||||2023/12/26|

其他人在问
声音克隆
GPTSoVITS 是一个用于声音克隆和文本到语音转换的开源 Python RAG 框架，具有以下特点和使用方法： 特点： 零样本 TTS：输入 5 秒的声音样本即可体验即时的文本到语音转换。 少量样本训练：只需 1 分钟的训练数据即可微调模型，提高声音相似度和真实感，模仿出来的声音更接近原声且更自然。 跨语言支持：支持与训练数据集不同语言的推理，目前支持英语、日语和中文。 易于使用的界面：集成了声音伴奏分离、自动训练集分割、中文语音识别和文本标签等工具，帮助初学者更容易地创建训练数据集和 GPT/SoVITS 模型。 适用于不同操作系统：项目可以在不同的操作系统上安装和运行，包括 Windows。 预训练模型：项目提供了一些已经训练好的模型，可直接下载使用。 使用： 先剪出音频，使用 https://elevenlabs.io/speechsynthesis 或使用 GPTsovits 克隆声音，做出文案的音频。 注册 colab，按照步骤注册即可：https://colab.research.google.com/scrollTo=Wf5KrEb6vrkR&uniqifier=2 。新建笔记本，运行脚本启动 GPTSo VITS，整个过程比较漫长，需要耐心等待，可以整个脚本一起运行，也可以一段一段运行。运行过程包括克隆项目代码库、进入项目目录、安装 Python 依赖包、安装系统依赖、下载 NLTK 资源、启动 Web UI。运行成功后会出现 public URL。 训练音频准备与上传。 相关资源： GitHub：https://github.com/RVCBoss/GPTSoVITS 视频教程：https://bilibili.com/video/BV12g4y1m7Uw/ 基础 wav2lip+高清修复整合包下载地址：https://github.com/Rudrabha/Wav2Lip 产品：https://synclabs.so/
2024-12-13
如何克隆自己的声音
要克隆自己的声音，以下是一些常见的方法和相关信息： 使用 GPTSoVITS： 前置数据获取处理：选择音频，开启切割；有噪音时进行降噪处理，降噪处理完成后开启离线 ASR。 GPTSowitsTTS：训练集格式化，包括一键三连和耐心等待；进行微调训练，开启 SoVITS 训练和 GPT 训练；进行推理，开始推理、刷新模型、选择微调后的模型。 成功标志：出现新的 URL 说明自己的声音微调完毕。 微软发布的 Personal Voice： 只需提供 1 分钟的语音样本，几秒钟内即可克隆该样本语音。 生成的 AI 语音支持中文、西班牙语、德语等多达 100 种不同语言的语音输出。 使用设备端机器学习技术，确保用户信息私密安全，与 LiveSpeech 无缝集成。 微软在生成的 AI 语音中增加了水印安全和认证措施，一种特殊的水印被添加到生成的语音中，以便用户和客户识别。 该功能将在西欧、美国东部和东南亚地区率先上线，并于 12 月 1 日上线公共预览版。 相关资源： GPTSoVITS 的 GitHub： 视频教程： 希望以上内容对您有所帮助。
2024-12-10
AI加持的实时语音克隆工具有哪些？
以下是一些 AI 加持的实时语音克隆工具： 1. CloneVoice：基于 Coqui AI TTS 模型，能够变换不同声音，支持 16 种语言，包括中英日韩法，支持在线声音克隆，录音时长为 5 20 秒。链接：https://x.com/xiaohuggg/status/1739178877153681846?s=20 2. Vidnoz AI：支持 23 多种语言的配音，音质高保真，支持文本转语音和语音克隆功能，提供语音参数自定义和背景音乐添加工具，提供面向个人和企业的经济实惠的定价方案。
2024-12-04
AI加持的语音克隆工具有哪些？
以下是一些 AI 加持的语音克隆工具： CloneVoice：基于 Coqui AI TTS 模型，能变换不同声音，支持 16 种语言，包括中英日韩法，支持在线声音克隆，录音时长为 5 20 秒。链接：https://x.com/xiaohuggg/status/1739178877153681846?s=20 clonevoice（https://github.com/jianchang512/clonevoice）：带 Web 界面，简单易用。可使用任何人类音色，将文字合成为该音色说话的声音，或者转换声音。
2024-12-04
免费声音克隆工具
以下为您介绍一些免费的声音克隆工具： 1. OpenVoice：准确克隆参考音色，支持多种语言和口音，能灵活控制声音风格，包括情感、口音、节奏等，具有零样本跨语言声音克隆能力。链接：http://research.myshell.ai/openvoice 。 2. GPTSoVITS：只需 1 分钟语音即可训练一个自己的 TTS 模型，是一个声音克隆和文本到语音转换的开源 Python RAG 框架。5 秒数据就能模仿，1 分钟声音数据能训练出高质量 TTS 模型，完美克隆声音。主要特点包括零样本 TTS、少量样本训练、跨语言支持、易于使用的界面、适用于不同操作系统以及提供预训练模型。GitHub：https://github.com/RVCBoss/GPTSoVITS 视频教程：https://bilibili.com/video/BV12g4y1m7Uw/
2024-12-01
有哪些AI克隆声音
以下是一些 AI 克隆声音的相关信息： GPTSoVITS 实现的声音克隆，例如： 人工智能音频初创公司，例如： 将书面内容转化为引人入胜的音频，并实现无缝分发。 专业音频、语音、声音和音乐的扩展服务。 （被 Spotify 收购）提供完全表达的 AI 生成语音，带来引人入胜的逼真表演。 利用合成媒体生成和检测，带来无限可能。 一键使您的内容多语言化，触及更多人群。 生成听起来真实的 AI 声音。 为游戏、电影和元宇宙提供 AI 语音演员。 为内容创作者提供语音克隆服务。 超逼真的文本转语音引擎。 使用单一 AI 驱动的 API 进行音频转录和理解。 听起来像真人的新声音。 从真实人的声音创建逼真的合成语音的文本转语音技术。 生成听起来完全像你的音频内容。
2024-11-28
用户声音分析
以下是关于用户声音分析的相关内容： 人工智能音频初创公司： ：通过更强的听觉感知创造卓越的人类体验。 ：先进的声音识别解决方案，能够分类如尖叫、枪声、咳嗽和哭泣等声音。 ：下一代声音 AI 平台，能够像人类一样理解任何声音。 ：语音控制的家庭自动化系统。 ：世界上首个智能家居听觉系统。 ：可用于从音频源中提取隐藏数据的 AI 模型。 ：无需键盘、按钮或触摸屏，无缝融合物理世界和数据世界。 ：为手机、VR/AR 头戴设备、智能手表、扬声器和笔记本电脑提供上下文感知。 ：智能音频穿戴设备。 ：我们将声音转化为信息。 ：使用先进的深度学习技术进行声音事件检测和上下文识别，为世界上的每一个声音赋予意义。 分析报告范例： GPT + SBERT 做用研统计：无法做 SBERT 统计频次。 邬嘉文：AI 做用户研究｜Claude 3 Opus 可以直接输出用户研究报告：无法做 SBERT 统计频次。报告中提到了眼镜佩戴的相关问题，如长时间佩戴的不适（鼻垫、耳杆问题）、大小和重量问题、对特定用户群体的不适（视力、眼间距问题）、音频体验的限制等。
2024-12-19
推荐一个大模型，可以实现特定人的声音，朗读文字
以下为您推荐可以实现特定人声音朗读文字的大模型及相关工具： 大模型方面：包括 ChatGPT、Claude、ChatGLM、文星一言、千帆大模型、通义千问等。 语音合成（TTS）工具： 微软的 edgetts：https://github.com/rany2/edgetts，只能使用里面预设的人物声音，目前接口免费。 VITS：https://github.com/jaywalnut310/vits，还有很多的分支版本，可以去搜索一下，vits 系列可以自己训练出想要的人声。 sovitssvc:https://github.com/svcdevelopteam/sovitssvc，专注到唱歌上面，前段时间很火的 AI 孙燕姿。 Eleven Labs：https://elevenlabs.io/ ，ElevenLabs Prime Voice AI 是一款功能强大且多功能的 AI 语音软件，使创作者和出版商能够生成逼真、高品质的音频。人工智能模型能够高保真地呈现人类语调和语调变化，并能够根据上下文调整表达方式。 Speechify：https://speechify.com/ ，Speechify 是一款人工智能驱动的文本转语音工具，使用户能够将文本转换为音频文件。它可作为 Chrome 扩展、Mac 应用程序、iOS 和 Android 应用程序使用，可用于收听网页、文档、PDF 和有声读物。 Azure AI Speech Studio：https://speech.microsoft.com/portal ，Microsoft Azure Speech Studio 是一套服务，它赋予应用程序能力，让它们能够“听懂、理解并与客户进行对话”。该服务提供了支持 100 多种语言和方言的语音转文本和文本转语音功能。此外，它还提供了自定义的语音模型，这些模型能够适应特定领域的术语、背景噪声以及不同的口音。 Voicemaker：https://voicemaker.in/ ，AI 工具可将文本转换为各种区域语言的语音，并允许您创建自定义语音模型。Voicemaker 易于使用，非常适合为视频制作画外音或帮助视障人士。 此外，上述算法开源的代码有很多，例如： ASR 语音识别： openai 的 whisper:https://github.com/openai/whisper wenet:https://github.com/wenete2e/wenet speech_recognition:https://github.com/Uberi/speech_recognition 除了算法，人物建模模型可以通过手动建模（音频驱动）或者 AIGC 的方式生成人物的动态效果（例如 wav2lip 模型）实现，这样就完成了一个最简单的数字人。但这种简单的构建方式还存在很多问题，例如如何生成指定人物的声音，TTS 生成的音频如何精确驱动数字人口型以及做出相应的动作，数字人如何使用知识库，做出某个领域的专业性回答等。
2024-12-18
声音复刻
声音复刻主要通过 GPTSoVITS 来实现，以下是相关步骤和信息： 1. 前置数据获取处理： 选择音频并进行切割。 若有噪音，进行降噪处理。 降噪处理完成后，开启离线 ASR。 2. GPTSowitsTTS： 训练集格式化：开启一键三连，耐心等待。 微调训练：开启 SoVITS 训练和 GPT 训练。 推理：开始推理，刷新模型，选择微调后的模型（如 yoyo）。 3. 声音复刻：开启声音复刻之旅，可实现跨多语种语言的声音。 4. 实践的样本： AIyoyo 普通话 满江红 AIyoyo 粤语版 满江红 GPTSoVITS 是一个声音克隆和文本到语音转换的开源 Python RAG 框架，具有以下特点： 1. 零样本 TTS：输入 5 秒的声音样本即可体验即时的文本到语音转换。 2. 少量样本训练：只需 1 分钟的训练数据即可微调模型，提高声音相似度和真实感。 3. 跨语言支持：支持与训练数据集不同语言的推理，目前支持英语、日语和中文。 4. 易于使用的界面：集成了声音伴奏分离、自动训练集分割、中文语音识别和文本标签等工具，帮助初学者更容易地创建训练数据集和 GPT/SoVITS 模型。 5. 适用于不同操作系统：项目可以在不同的操作系统上安装和运行，包括 Windows。 6. 预训练模型：项目提供了一些已经训练好的模型，你可以直接下载使用。 GitHub： 视频教程： 此外，还有以下开源 TTS 数据可供参考： |汇总|大量语音数据的汇总| |||| |TTS|WenetSpeech4TTS|12,800 小时的配对音频 文本数据| |TTS| |TTS| |TTS|赛博朋克 2077|请注意版权问题！| |TTS中文| |TTS中文| |TTS中文| |TTS中文| |TTS中文|zhvoice|3200 说话人 900 小时，用于声音复刻，合成，识别等| |TTS英文|LibriTTS|基于 Librispeech 筛选而来，更适合用于做 TTS，采样率 24k，大约 585 小时 2,456 人，其中的 trainclean100 包含 53.8 小时/247 个发言人| |TTS英文|LJ Speech|大约 24 小时|
2024-12-16
声音复刻
声音复刻相关内容如下： GPTSoVITS 实现 AIyoyo 声音克隆： 前置数据获取处理：选择音频，开启切割；有噪音时，进行降噪处理；降噪处理完成，开启离线 ASR。 GPTSowitsTTS：训练集格式化需开启一键三连，耐心等待；包括微调训练、推理，推理时开始推理刷新模型选择微调后的模型yoyo，成功后会出现新的 URL 表明声音微调完毕。 声音复刻：可以开启声音复刻之旅，能够实现跨多语种语言的声音。 实践的样本：AIyoyo 普通话满江红 。 GPTSoVITS 实现声音克隆： GPTSoVITS 是一个声音克隆和文本到语音转换的开源 Python RAG 框架。只需 1 分钟语音即可训练一个自己的 TTS 模型，5 秒数据就能模仿，1 分钟的声音数据就能训练出高质量的 TTS 模型，完美克隆声音。主要特点包括零样本 TTS、少量样本训练、跨语言支持、易于使用的界面、适用于不同操作系统、提供预训练模型。 GitHub： 。 TTS 数据整理： 开源 TTS 数据汇总： 大量语音数据的汇总： TTS WenetSpeech4TTS：12,800 小时的配对音频 文本数据： TTS 米哈游 星穹铁道：包含中文和日语英文韩语，请注意版权问题！ TTS 米哈游 原神：包含中文和日语英文韩语，请注意版权问题！ TTS 赛博朋克 2077：请注意版权问题！ TTS 中文 baker 标贝女声：12 小时 TTS 中文 Aishell3：85 小时多说话人数据 TTS 中文 DiDiSpeech：500 人 60 小时，但目前已经 404 无法再获取 TTS 中文 OpenSLR：提供各种语言的合成、识别等语料 TTS 中文 zhvoice：3200 说话人 900 小时，用于声音复刻，合成，识别等 TTS 英文 LibriTTS：基于 Librispeech 筛选而来，更适合用于做 TTS，采样率 24k，大约 585 小时 2,456 人，其中的 trainclean100 包含 53.8 小时/247 个发言人 TTS 英文 LJ Speech：大约 24 小时
2024-12-16