以下是一些数字人唱歌的 AI 工具及相关信息:
[heading1]创意工具箱[heading2]数字人口播配音[content]只需输入口播文案,选择期望生成的数字人形象及目标语言,即可生成数字人口播视频,让视频制作变得轻松高效!操作指引输入口播文案——选择目标语言——选择数字人角色——选择输出类型——点击开始生成[heading2]图片换脸[content]仅需上传原始图片和换脸图片,即可一键实现素材换脸,极大提高素材生成效率!操作指引上传原始图片——上传换脸图片——点击开始生成*图片大小上限5M,支持JPG、PNG格式[heading2]视频换脸[content]自动识别视频中的人脸,并将其替换为选择的脸部,实现在视频中快速、精确地替换人物的脸部!操作指引上传原始视频——上传换脸图片——点击生成[heading2]音频合成数字人[content]只需上传音频文件,即可基于音频合成对应的数字人视频,工具支持使用100+数字人模板,一键解决无素材冷启问题!操作指引:上传音频文件——选择数字人角色——选择输出类型——点击开始生成*注意:音频文件支持MP3和WAV格式,文件大小上限5M[heading2]AI配音[content]多语种(包含菲律宾语、印地语、马来语等小语种)智能配音,同时支持区分男声和女声,高效解决素材出海语言障碍问题!操作指引:输入需配音文案——选择音色——点击立即生成注意:输入的配音文案需和选择音色语种保持一致[heading2]AI字幕[content]智能识别视频语言并生成对应字幕,满足海外多国投放场景需求。操作指引:点击上传视频——开始生成——字幕解析完成——下载SRT字幕注意:支持MP4文件类型,大小上限为50M。
第一种,可以使用一系列逼真的照片或插图人脸来创造。所有人脸都经过优化,可以在添加语音和动作时实现最佳效果。第二种,上传自己的照片,可以是自己的面部、朋友或家人的面部照片就可以创作了第三种,利用D-ID自带的Stable Diffusion的能力生成您想象中的任何人脸。简单讲,你可以描述下你想要的这张脸长啥样,比如“一个外星女神”,“一个微笑的十九世纪维多利亚绅士”等等,它马上可以生成你长你想要的脸。不管用哪种方式,一旦这个数字人像被添加到人脸库里,你就可以随意重复使用它。只需输入新的脚本,就可以让这个数字人像说任何你想让他说的话。瞧,这就是用一些历史名人的肖像画生成的对话,剪辑成有剧情的短视频就非常有趣,里面就有我喜欢的李白吟诗,目前该博主在B站点赞已经超过1000万,只有你想不到,没有你做不到。[heading1]六、三种方式让数字人说话[content]可以用GPT直接生成脚本让数字人说话第一种,利用GPT-3文本生成技术来撰写脚本。这一全新的脚本撰写功能,保证我们再也不会因为无话可说而感到尴尬;也可以先选好脸,再输入脚本第二种,输入准备好的脚本,D-ID里面有数百种语言和口音,选择你想要使用的声音,并调整角色说话的风格,就可以了。第三种,也是最基本的,上传自己的音频记录。或者从电影或电视剧中剪辑出您最喜欢的台词,或是吟唱自编的歌曲也是可以的。
上述算法开源的代码有很多,这里列出一些仓库供大家参考:ASR语音识别openai的whisper:https://github.com/openai/whisperwenet:https://github.com/wenet-e2e/wenetspeech_recognition(这是一个语音识别的接口集合,里面有不同实现的语音识别的接口):https://github.com/Uberi/speech_recognitionAI Agent大模型部分就比较多了,包括ChatGPT、Claude、ChatGLM、文星一言、千帆大模型、通义千问等等。Agent部分可以使用LangChain的模块去做自定义,里面基本包含了Agent实现的几个组件(https://www.langchain.com/)TTS微软的edge-tts:https://github.com/rany2/edge-tts,只能使用里面预设的人物声音,目前接口免费。VITS:https://github.com/jaywalnut310/vits,还有很多的分支版本,可以去搜索一下,vits系列可以自己训练出想要的人声。so-vits-svc:https://github.com/svc-develop-team/so-vits-svc,专注到唱歌上面,前段时间很火的AI孙燕姿。除了算法,人物建模模型可以通过手动建模(音频驱动)或者AIGC的方式生成人物的动态效果(例如wav2lip模型)实现,这样就完成了一个最简单的数字人。当然这种简单的构建方式还存在很多的问题,例如:如何生成指定人物的声音?TTS生成的音频如何精确驱动数字人口型以及做出相应的动作?数字人如何使用知识库,做出某个领域的专业性回答?