Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

语料库训练相关文档

Answer

以下是为您提供的语料库训练相关文档:

中文数据集 |ID|标题|更新日期|数据集提供者|许可|说明|关键字|类别|论文地址|备注| |-|-|-|-|-|-|-|-|-|-| |6|CLUE Fine-Grain NER|2020 年|CLUE||CLUENER2020 数据集,是在清华大学开源的文本分类数据集 THUCTC 基础上,选出部分数据进行细粒度命名实体标注,原数据来源于 Sina News RSS。数据包含 10 个标签类别,训练集共有 10748 条语料,验证集共有 1343 条语料|细粒度;CULE|命名实体识别|\|中文| |7|CoNLL-2003|2003|CNTS-Language Technology Group||数据来源于 CoNLL-2003 的任务,该数据标注了包括 PER,LOC,ORG 和 MISC 的四个类别|CoNLL-2003|命名实体识别|论文|英文| |8|微博实体识别|2015 年|https://github.com/hltcoe/golden-horse|||EMNLP-2015|命名实体识别||| |9|SIGHAN Bakeoff 2005|2005 年|MSR/PKU|||bakeoff-2005|命名实体识别|||

TTS 超全教程 - 音库制作和文本前端 音库制作 音频录制 音频的录制对合成语音的表现较为重要,较差的语音甚至会导致端到端声学模型无法正常收敛。用于训练的录音至少要保证录音环境和设备始终保持一致,无混响、背景噪音;原始录音不可截幅;如果希望合成出来的语音干净,则要删除含口水音、呼吸音、杂音、模糊等,但对于目前的端到端合成模型,有时会学习到在合适的位置合成呼吸音、口水音,反而会增加语音自然度。录音尽可能不要事先处理,语速的调节尚可,但调节音效等有时会造成奇怪的问题,甚至导致声学模型无法收敛。音频的录制可以参考录音公司的标准,购买专业麦克风,并保持录音环境安静即可。在音库录制过程中,可尽早提前尝试声学模型,比如音库录制 2 个小时语音后,就可尝试训练基线语音合成系统,以防止录音不符合最终的需求。

语料整理 检查文本和录制的语音是否一一对应,录制的音频本身一句话是否能量渐弱,参与训练的语音前后静音段要保持一致,能量要进行规范化。可使用预训练的语音活动检测(Voice Activity Detection,VAD)工具,或者直接根据语音起止的电平值确定前后静音段。可以使用一些开源的工具,比如pyloudnorm统一所有语音的整体能量,这将有助于声学模型的收敛。当然,在声学模型模型训练时,首先就要对所有语料计算均值方差,进行统一的规范化,但是这里最好实现统一能量水平,防止一句话前后能量不一致。能量规整的示例代码如下。

Content generated by AI large model, please carefully verify (powered by aily)

References

中文数据集

NER|ID|标题|更新日期|数据集提供者|许可|说明|关键字|类别|论文地址|备注||-|-|-|-|-|-|-|-|-|-||6|[CLUE Fine-Grain NER](https://storage.googleapis.com/cluebenchmark/tasks/cluener_public.zip)|2020年|CLUE||CLUENER2020数据集,是在清华大学开源的文本分类数据集THUCTC基础上,选出部分数据进行细粒度命名实体标注,原数据来源于Sina News RSS。数据包含10个标签类别,训练集共有10748条语料,验证集共有1343条语料|细粒度;CULE|命名实体识别|\|中文||7|[CoNLL-2003](https://www.clips.uantwerpen.be/conll2003/ner/)|2003|CNTS-Language Technology Group||数据来源于CoNLL-2003的任务,该数据标注了包括PER,LOC,ORG和MISC的四个类别|CoNLL-2003|命名实体识别|[论文](https://www.aclweb.org/anthology/W03-0419.pdf)|英文||8|[微博实体识别](https://github.com/hltcoe/golden-horse)|2015年|[https://github.com/hltcoe/golden-horse](https://github.com/hltcoe/golden-horse)|||EMNLP-2015|命名实体识别||||9|[SIGHAN Bakeoff 2005](http://sighan.cs.uchicago.edu/bakeoff2005/)|2005年|MSR/PKU|||bakeoff-2005|命名实体识别|||

TTS超全教程

音频的录制对合成语音的表现较为重要,较差的语音甚至会导致端到端声学模型无法正常收敛。用于训练的录音至少要保证录音环境和设备始终保持一致,无混响、背景噪音;原始录音不可截幅;如果希望合成出来的语音干净,则要删除含口水音、呼吸音、杂音、模糊等,但对于目前的端到端合成模型,有时会学习到在合适的位置合成呼吸音、口水音,反而会增加语音自然度。录音尽可能不要事先处理,语速的调节尚可,但调节音效等有时会造成奇怪的问题,甚至导致声学模型无法收敛。音频的录制可以参考录音公司的标准,购买专业麦克风,并保持录音环境安静即可。在音库录制过程中,可尽早提前尝试声学模型,比如音库录制2个小时语音后,就可尝试训练基线语音合成系统,以防止录音不符合最终的需求。[heading3]语料整理[content]检查文本和录制的语音是否一一对应,录制的音频本身一句话是否能量渐弱,参与训练的语音前后静音段要保持一致,能量要进行规范化。可使用预训练的语音活动检测(Voice Activity Detection,VAD)工具,或者直接根据语音起止的电平值确定前后静音段。可以使用一些开源的工具,比如[pyloudnorm](https://github.com/csteinmetz1/pyloudnorm)统一所有语音的整体能量,这将有助于声学模型的收敛。当然,在声学模型模型训练时,首先就要对所有语料计算均值方差,进行统一的规范化,但是这里最好实现统一能量水平,防止一句话前后能量不一致。能量规整的示例代码如下。

Others are asking
怎么投喂语料库给ai
以下是关于投喂语料库给 AI 的一些方法和步骤: 在音乐学习方面: 1. 步骤 3:把 Midi 导出到 MP3 虚拟演奏文件。可以直接导总谱,也可以分轨导出(适用于不同乐器组合)。由于制谱软件有很重的 midi 味,有时需要调整乐器音色。320kbit 码率是各大音乐平台的门槛,而向 Suno 导出的是 192k 的,后期如果想输出到 QQ 音乐之类,需要转个码。导出以后就可以喂给 AI 了。修改音色这一步不是必须,也有很多染色的软件可以用,比如用 Neutron4 从 Youtube 上面下载一些自己喜欢的乐器音色(比如雅马哈大钢琴),然后用宿主软件打开插件,导入这段音频,就可以实现渲染。 2. 步骤 4:丢给 AI 做二次创作。比较喜欢丢完整的小节给 AI,这样节奏的识别性更好,当然也可以在中间掐断,AI 的识别能力还是不错的。接下来就是细化去 roll 后面的部分,大家可以自由发挥。 在 OpenAI 方面: 如果作为输入的一部分提供,模型可以利用外部信息源。这可以帮助模型生成更明智和最新的响应。例如,如果用户询问有关特定电影的问题,将有关电影的高质量信息(例如演员、导演等)添加到模型的输入中可能会很有用。嵌入可用于实现高效的知识检索,以便在运行时将相关信息动态添加到模型输入中。文本嵌入是一个向量,可以衡量文本字符串之间的相关性。相似或相关的字符串将比不相关的字符串靠得更近。这一事实以及快速向量搜索算法的存在意味着嵌入可用于实现高效的知识检索。特别是,一个文本语料库可以被分割成块,每个块都可以被嵌入和存储。然后,给定的查询可以被嵌入,可以进行向量搜索,以找到与查询最相关的语料库的嵌入文本块(即,在嵌入空间中最接近的)。可以在中找到示例实现。有关如何使用知识检索来最小化模型编造错误事实的可能性的示例,请参阅策略“指示模型使用检索到的知识来回答查询”。
2024-12-30
AI使用文档
以下是一份关于如何使用 AI 来做事的指南: 一、当前 AI 系统的发布情况 越来越强大的人工智能系统正快速发布,如 Claude 2 、Open AI 的 Code Interpreter 等,但似乎没有相关实验室提供用户文档,用户指南多来自 Twitter 影响者。 二、处理文档和数据 1. 处理文本,特别是 PDF ,Claude 2 表现出色。可以将整本书粘贴到 Claude 的前一版本中,新模型更强大。通过询问后续问题来审问材料,但需注意系统仍会产生幻觉,若要确保准确性需检查结果。 2. 对于数据和代码相关: 代码解释器是一种 GPT 4 模式,允许上传文件、编写和运行代码、下载结果,可用于执行程序、数据分析、创建各种文件、网页甚至游戏。但使用它进行未经培训的分析存在风险。 对于大型文档或同时处理多个文档,可使用 Claude 2 ;对于较小的文档和网页,可使用 Bing 侧边栏( Edge 浏览器的一部分),但上下文窗口大小有限。 希望以上内容对您有所帮助。若想了解更多关于特定任务类型或工具使用的详细信息,可提前阅读相关文章。
2025-02-20
帮助产品经理根据产品原型截图写产品需求文档的AI工具和提示词有哪些
以下是一些帮助产品经理根据产品原型截图写产品需求文档的 AI 工具和提示词: AI 工具: 1. 产品管理工具:如 Aha!、ProductPlan 等,帮助管理整个产品生命周期。 2. 协作工具:如 Google Docs、Microsoft Office 365,支持团队协作和文档共享。 3. 项目管理软件:如 JIRA、Trello,用于任务分配和进度跟踪。 4. 市场研究工具:如 Google Trends、SEMrush,分析市场趋势和用户行为。 5. 用户调研工具:如 SurveyMonkey、Typeform,收集用户反馈和需求。 6. 数据分析工具:如 Tableau、Power BI,对市场数据进行可视化分析。 7. 思维导图软件:如 MindMeister、XMind,帮助组织思路和概念。 8. 流程图软件:如 Lucidchart、Visio,绘制产品功能和流程图。 提示词: 1. 行业洞察分析:对行业现状、趋势和未来发展方向进行深入研究和预测。 2. 方法论专家:精通各类管理和研发方法论,能根据具体情况选择和应用最佳方法。 3. 头脑风暴:团队成员自由提出各种想法和见解,快速产出创意解决方案。 4. 需求文档设计:根据产品特性和用户需求,设计产品需求文档。 5. 功能价值分析:评估产品各项功能的重要性和价值,辅助优化资源配置。 6. 竞品分析报告:对竞争对手的产品进行全面的分析比较,找出优劣势。 7. 流程图/图表设计:直观地呈现业务流程、组织结构或统计数据。 8. 思维导图设计:以树状图形式展示思路和知识框架。 9. 解决方案专家:根据问题分析,提供切实可行的解决方案。 10. 周报生成器:自动化生成工作周报,提高工作效率。 学习 Prompt 提示词可以参考这份文档:https://www.promptingguide.ai/zh 。 在写提示词时,要注意以下几点: 1. 提示词内容准确,包含人物主体、风格、场景特点、环境光照、画面构图、画质等,比如:一个女孩抱着小猫,背景是一面红墙,插画风格、孤独感,高质量。 2. 调整负面提示词,帮助 AI 理解不想生成的内容,比如:不好的质量、低像素、模糊、水印。 3. 利用“加权重”功能,让 AI 明白重点内容,可在功能框增加提示词,并进行加权重调节,权重数值越大,更优先。 4. 对于星流一站式 AI 设计工具,其提示词用于描绘画面,支持中英文输入,启用提示词优化后能更生动地描述画面内容,小白用户可以点击提示词上方官方预设词组进行生图。 使用这些提示词和工具,可以帮助产品经理更高效地撰写产品需求文档,确保文档全面覆盖了市场和产品的关键方面。同时,它们也有助于提高团队之间的沟通效率和文档的可管理性。但请注意,内容由 AI 大模型生成,请仔细甄别。
2025-02-19
deepseek 部署文档
以下是关于 DeepSeek 部署的相关内容: 《在 Azure AI Foundry 部署 DeepSeek 大模型全指南》(https://waytoagi.feishu.cn/wiki/RKK5wNbeHifSAXkAR5hcGYQmn5f?renamingWikiNode=false):来自社区伙伴 Hua 的投稿,手把手指导您在微软 Azure AI Foundry 平台上完成 DeepSeek R1(671B)模型的完整部署流程,包含环境准备、资源管理、模型测试及 API 调用说明。 《突破 DeepSeek R1 能力天花板,火山引擎扣子+飞书一站式企业解决方案》(https://waytoagi.feishu.cn/wiki/RZE9wP94tiEO6bkU5cTcyecHnnb) 《羊毛快薅|字节火山上线了 DeepSeek 系列模型并悄悄更改了模型服务价格...》(https://waytoagi.feishu.cn/wiki/HzHSwEwtCiBmWrkRm6fc0J0Qneh):所有用户享 50 万免费 Tokens+API 半价优惠!火山引擎上线了 DeepSeek 系列模型!咱们社区小伙伴做了零基础部署教程,5 分钟打造专属满血版 AI 助手,速度飞快!使用方法中附上了飞书多维表格的接入方法、Coze 的接入使用方法、网页插件的使用方法。 《刚刚,DeepSeek 官方发布 R1 模型推荐设置,这才是正确用法》(https://mp.weixin.qq.com/s/RA1mhAyQOoXD5XOULAGgbQ):DeepSeek 官方下场推荐了部署 DeepSeekR1 的设置。DeepSeek 强调官方部署的版本跟开源版本模型完全一致。
2025-02-18
兼职督学岗位,通过飞书平台为高中生服务,包括:1)解答学习方法等疑问;2)发送测试卷;3)提交测试卷后通知后端制作学习计划;4)发送学习计划链接;5)定期推送知识点和打卡提醒;6)查看打卡并反馈。所有文档通过飞书云文档链接发送。现在我想通过利用coze将deepseek等ai接入飞书的形式,制作出产品赋能督学在这一岗位的工作效率,并希望在这一过程中,锻炼我的ai能力,再想办法让上司或者老板为我这个产品支付报酬,请问我可以从哪些角度开发产品?
以下是一些您可以从以下角度开发产品来赋能兼职督学岗位的工作效率,并锻炼您的 AI 能力,以争取上司或老板为产品支付报酬: 1. 利用 Coze 的多语言模型支持,为解答高中生学习方法等疑问提供更准确和全面的回答。 2. 借助插件系统,集成与学习相关的插件,如学习资料查询、学习工具推荐等,丰富服务内容。 3. 运用知识库功能,上传各类学科知识点、优秀学习案例等,方便在服务中快速调用和推送。 4. 利用数据库和记忆能力,记住每个高中生的学习情况和需求,提供个性化服务。 5. 设计工作流,例如自动发送测试卷、自动通知后端制作学习计划、自动推送学习计划链接等流程,提高工作效率。 6. 采用多代理模式,针对不同学科或学习阶段设置专门的代理,提供更精准的服务。 7. 利用 Coze 易于发布和分享的特点,将服务产品推广给更多需要的高中生和督学人员。
2025-02-18
兼职督学岗位,通过飞书平台为高中生服务,包括:1)解答学习方法等疑问;2)发送测试卷;3)提交测试卷后通知后端制作学习计划;4)发送学习计划链接;5)定期推送知识点和打卡提醒;6)查看打卡并反馈。所有文档通过飞书云文档链接发送。现在我想通过利用coze将deepseek等ai接入飞书的形式,制作出产品赋能督学在这一岗位的工作效率,并希望在这一过程中,锻炼我的ai能力,再想办法让上司或者老板为我这个产品支付报酬,请问我可以从哪些角度开发产品?又该如何将它推销给上司?
以下是关于您利用 Coze 和 DeepSeek 等 AI 接入飞书来赋能兼职督学岗位工作效率的一些建议: 开发产品的角度: 1. 智能答疑系统:利用 AI 技术,对高中生常见的学习方法疑问进行自动分析和回答,提高答疑效率和准确性。 2. 个性化测试卷生成:根据学生的学习情况和需求,通过 AI 生成个性化的测试卷。 3. 学习计划优化:基于学生提交的测试卷结果,利用 AI 更精准地制定学习计划。 4. 知识点精准推送:运用 AI 分析学生的学习进度和薄弱环节,定期推送更具针对性的知识点。 5. 打卡提醒优化:通过 AI 实现更灵活、个性化的打卡提醒方式。 推销给上司的方法: 1. 展示效率提升:详细说明产品如何大幅提高兼职督学的工作效率,节省人力和时间成本。 2. 个性化服务优势:强调产品能够为高中生提供更个性化、精准的服务,提升学习效果。 3. 数据支持:提供相关的数据和案例,证明 AI 赋能后的积极效果。 4. 成本效益分析:说明开发和使用该产品的成本相对较低,而带来的收益显著。 5. 未来发展潜力:阐述产品在不断优化和拓展功能方面的潜力,适应更多的教育需求。 另外,Coze 是由字节跳动推出的 AI 聊天机器人和应用程序编辑开发平台,专为开发下一代 AI 聊天机器人而设计。它具有多语言模型支持、插件系统、知识库功能、数据库和记忆能力、工作流设计、多代理模式、免费使用、易于发布和分享等特点。这些特点可以为您的产品开发提供有力支持。
2025-02-18
我想用ai自动化把我的文档内容生成漂亮的ppt
以下是一些可以将文档内容生成漂亮 PPT 的方法和工具: 1. 歌者 PPT(gezhe.com): 功能: 话题生成:一键生成 PPT 内容。 资料转换:支持多种文件格式转 PPT。 多语言支持:生成多语言 PPT。 模板和案例:海量模板和案例库。 在线编辑和分享:生成结果可自由编辑并在线分享。 增值服务:自定义模板、字体、动效等。 简介:是一款永久免费的智能 PPT 生成工具,能将任何主题或资料转化为 PPT,并提供便捷操作和智能化体验。 产品优势: 免费使用:所有功能永久免费。 智能易用:通过 AI 技术简化制作流程,易于上手。 海量案例:大量精美模板和优秀案例可供选择和下载。 资料转 PPT 很专业:支持多种文件格式,转换过程中尊重原文内容。 AI 翻译:保持 PPT 原始排版不变,多语言在线即时翻译。 推荐理由: 完全免费,对学生和职场人士是福音。 智能化程度高,通过 AI 技术快速将资料转换成精美 PPT,高效准确。 模板和案例库丰富,适合各种场景。 对多语言支持实用,可一键生成目标语言的 PPT 或翻译。 几乎无需学习成本就能上手使用。 2. Process ON: 网址:https://www.processon.com/ 输入大纲和要点: 导入大纲和要点: 手动复制,相对比较耗时间。 导入方式: 复制最终大纲的内容到本地的 txt 文件后,将后缀改为.md。如果看不见后缀,可以自行搜索开启后缀。 打开 Xmind 软件,将 md 文件导入 Xmind 文件中。 Process ON 导入 Xmind 文件。 输入主题自动生成大纲和要求: 新增思维导图。 输入主题,点击 AI 帮我创作。 选择模版并生成 PPT: 点击下载,选择导入格式为 PPT 文件。 选择模版,再点击下载。 3. 增强版 Bot: 场景: 图片理解与生成:在对话框输入诉求,可生成相应图片,也可根据图片提取关键知识内容。 PPT 一键生成:根据上下文在对话框输入诉求,可生成幻灯片内容及相关模板选择。 PDF 智能制作:根据上下文在对话框输入诉求,可生成相应的可选模板。 系统架构论文一键创作。
2025-02-14
agent训练
在人工智能领域中,AI Agent 的训练具有以下特点: 传统强化学习中,Agent 训练往往需大量样本和时间,且泛化能力不足。 为突破瓶颈,引入了迁移学习:通过促进不同任务间知识和经验迁移,减轻新任务学习负担,提升学习效率和性能,增强泛化能力,但当源任务与目标任务差异大时,可能无法发挥效果甚至出现负面迁移。 探索了元学习:核心是让 Agent 学会从少量样本中迅速掌握新任务最优策略,能利用已有知识和策略调整学习路径适应新任务,减少对大规模样本集依赖,但需要大量预训练和样本构建学习能力,使开发通用高效学习策略复杂艰巨。 时间:21 世纪初至今 特点:迁移学习是将一个任务学到的知识迁移到其他任务;元学习是学习如何学习,快速适应新任务。 技术:迁移学习如领域自适应;元学习如 MAML、MetaLearner LSTM。 优点:提高学习效率,适应新任务。 缺点:对源任务和目标任务的相似性有一定要求。 此外,智谱 AI 开源的语言模型中与 Agent 相关的有: AgentLM7B:提出了 AgentTuning 方法,开源了包含 1866 个高质量交互、6 个多样化真实场景任务的 Agent 数据集 AgentInstruct,基于上述利用 Llama2 微调而成,上下文 token 数为 4K。 AgentLM13B:上下文 token 数为 4K。 AgentLM70B:上下文 token 数为 8K。
2025-02-18
大语言模型、多模态、数据、算力、算法、预训练、微调、RAG、自注意力机制、transformer、token、神经网络、向量、scaling law这些内容的含义
以下是对您所提到的这些内容含义的解释: 大语言模型:是一种基于大量文本数据进行训练的语言处理模型,其工作原理包括训练数据、算力、模型参数等。在训练数据一致的情况下,模型参数越大能力越强。 多模态:指能够处理多种不同类型的数据模态,如文本、图像、音频等,并将它们融合进行理解和生成。 数据:是大语言模型训练和应用的基础,包括各种文本、图像、音频等信息。 算力:指用于支持大语言模型训练和运行的计算能力。 算法:是大语言模型实现各种功能的数学和逻辑方法。 预训练:在大语言模型中,先在大规模数据上进行无特定任务的初步训练。 微调:基于通用大模型,针对特定领域任务提供数据进行学习和调整,以适应特定领域的需求。 RAG:检索增强生成,通过引用外部数据源为模型做数据补充,适用于动态知识更新需求高的任务。其工作流程包括检索、数据库索引、数据索引、分块、嵌入和创建索引、增强、生成等步骤。 自注意力机制:是 Transformer 架构中的重要部分,能理解上下文和文本关联,通过不断检索和匹配来寻找依赖关系,处理词和词之间的位置组合,预测下一个词的概率。 Transformer:是大语言模型训练架构,用于翻译等任务,具备自注意力机制。 Token:在自然语言处理中,是文本的基本单位。 神经网络:是大语言模型的基础架构,模拟人脑神经元的连接和信息处理方式。 向量:在大语言模型中,用于表示文本等数据的数学形式。 Scaling Law:关于大语言模型规模和性能之间关系的规律。
2025-02-18
大语言模型、多模态、数据、算力、算法、预训练、微调、RAG、自注意力机制、transformer、token、神经网络、向量、scaling law这些内容的含义
以下是对您所提到的这些内容含义的解释: 大语言模型:是一种基于大量文本数据进行训练的语言处理模型,其工作原理包括训练数据、算力、模型参数等。在训练数据一致的情况下,模型参数越大能力越强。 多模态:指能够处理多种不同类型的数据模态,如文本、图像、音频等,并将它们融合进行理解和生成。 数据:是大语言模型训练和应用的基础,包括各种文本、图像、音频等信息。 算力:指用于支持大语言模型训练和运行的计算能力。 算法:是大语言模型实现各种功能的数学和逻辑方法。 预训练:在大语言模型中,先在大规模数据上进行无特定任务的初步训练。 微调:基于通用大模型,针对特定领域任务提供数据进行学习和调整,以适应特定领域的需求。 RAG:检索增强生成,通过引用外部数据源为模型做数据补充,适用于动态知识更新需求高的任务。其工作流程包括检索、数据库索引、数据索引、分块、嵌入和创建索引、增强、生成等步骤。 自注意力机制:是 Transformer 架构中的重要部分,能理解上下文和文本关联,通过不断检索和匹配来寻找依赖关系,处理词和词之间的位置组合,预测下一个词的概率。 Transformer:是大语言模型训练架构,用于翻译等任务,具备自注意力机制。 Token:在自然语言处理中,是文本的基本单位。 神经网络:是大语言模型的基础架构,模拟人脑神经元的连接和信息处理方式。 向量:在大语言模型中,用于表示文本等数据的数学形式。 Scaling Law:关于大语言模型规模和性能之间关系的规律。
2025-02-18
主流的LORA 训练工具是什么?
主流的 LORA 训练工具包括: 1. B 站 UP 主“朱尼酱”的赛博丹炉,其界面友好、美观,适合新手入门。 2. 训练器,支持 Kolors 开源模型。 3. Kolors+Refiner,由 AIKSK 开发的工作流应用。 4. Kolors可图大模型XL 精修工作流,由@AiARTiST 非人类开发。 5. kolors+SDXL 细节修复+instant+ipa,由@谷尘 DesignDog 开发。 6. kolors 一键设计中文海报,由亦诚视觉开发。 7. ,魔搭社区官方模型。 8. InstantIDKolors 专属模型,由 InstantX 开发。
2025-02-18
flux lora训练
以下是关于 Flux 的 Lora 模型训练的详细步骤: 模型准备: 1. 下载所需模型:t5xxl_fp16.safetensors、clip_l.safetensors、ae.safetensors、flux1dev.safetensors。 注意:不使用时存放位置不限,只要知晓路径即可。训练时建议使用 flux1dev.safetensors 版本的模型和 t5xxl_fp16.safetensors 版本的编码器。 下载脚本: 1. 网盘链接: 夸克网盘链接:https://pan.quark.cn/s/ddf85bb2ac59 百度网盘链接:https://pan.baidu.com/s/1pBHPYpQxgTCcbsKYgBi_MQ?pwd=pfsq 提取码:pfsq 安装虚拟环境: 1. 下载完脚本并解压。 2. 在文件中找到 installcnqinglong.ps1 文件,右键选择“使用 PowerShell 运行”。 3. 新手在此点击“Y”,然后等待 1 2 小时的下载过程。下载完成后会提示是否下载 hunyuan 模型,选择“n”不用下载。 数据集准备: 1. 进入厚德云 模型训练 数据集:https://portal.houdeyun.cn/sd/dataset 2. 创建数据集:在数据集一栏中,点击右上角创建数据集,输入数据集名称。 可以上传包含图片 + 标签 txt 的 zip 文件,也可以上传只有图片的文件(之后可在 c 站使用自动打标功能),或者一张一张单独上传照片。建议提前将图片和标签打包成 zip 上传,Zip 文件里图片名称与标签文件应当匹配,例如:图片名“1.png”,对应的达标文件就叫“1.txt”。 上传 zip 以后等待一段时间,确认创建数据集。返回到上一个页面,等待一段时间后上传成功,可以点击详情检查,可预览到数据集的图片以及对应的标签。 Lora 训练: 1. 点击 Flux,基础模型会默认是 FLUX 1.0D 版本。 2. 选择数据集,点击右侧箭头,会跳出所有上传过的数据集。 3. 触发词可有可无,取决于数据集是否有触发词。模型效果预览提示词则随机抽取一个数据集中的标签填入即可。 4. 训练参数这里可以调节重复次数与训练轮数,厚德云会自动计算训练步数。如果不知道如何设置,可以默认 20 重复次数和 10 轮训练轮数。 5. 可以按需求选择是否加速,点击开始训练,会显示所需要消耗的算力。 6. 等待训练,会显示预览时间和进度条。训练完成会显示每一轮的预览图。鼠标悬浮到想要的轮次模型,中间会有个生图,点击会自动跳转到使用此 lora 生图的界面。点击下方的下载按钮则会自动下载到本地。 数据集存放位置:.Flux_train_20.4\\train\\qinglong\\train 运行训练:约 1 2 小时即可训练完成。 验证和 lora 跑图:有 ComfyUI 基础的话,直接在原版工作流的模型后面,多加一个 LoraloaderModelOnly 的节点就可以,自行选择您的 Lora 和调节参数。
2025-02-17
LLM 训练推理模型有哪些
以下是一些常见的 LLM 训练推理模型: 1. FengshenbangLM: 地址: 简介:是 IDEA 研究院认知计算与自然语言研究中心主导的大模型开源体系,开源了姜子牙通用大模型 V1,是基于 LLaMa 的 130 亿参数的大规模预训练模型,具备翻译、编程、文本分类、信息抽取、摘要、文案生成、常识问答和数学计算等能力。除姜子牙系列模型之外,还开源了太乙、二郎神系列等模型。 2. BiLLa: 地址: 简介:开源了推理能力增强的中英双语 LLaMA 模型。较大提升 LLaMA 的中文理解能力,并尽可能减少对原始 LLaMA 英文能力的损伤;训练过程增加较多的任务型数据,利用 ChatGPT 生成解析,强化模型理解任务求解逻辑;全量参数更新,追求更好的生成效果。 3. Moss: 地址: 简介:支持中英双语和多种插件的开源对话语言模型,MOSS 基座语言模型在约七千亿中英文以及代码单词上预训练得到,后续经过对话指令微调、插件增强学习和人类偏好训练具备多轮对话能力及使用多种插件的能力。 此外,Andrej Karpathy 的相关介绍中提到了 LLM 训练的一些情况,如训练过程涉及大约 10TB 的文本,通常来源于互联网的抓取,需要大量的互联网资源和一个 GPU 集群,费用大约 200 万美元。Karpathy 的视频还详细介绍了 LLM 训练的全部过程,包括预训练、有监督微调和强化学习等。
2025-02-16
推荐几个ai相关的优质公众号
以下是为您推荐的一些 AI 相关的优质公众号: 超时空视角 麦橘 麦乐园 MAILAND 𝐦𝐚𝐣𝐢𝐜𝐌𝐈𝐗 模型的作者 orange Web3 天空之城 Ragnar 瑞哥那 海辛 三思 INDIGO TALK 云中江树 陈财猫 阿文
2025-02-20
调研一下AI安全治理这个方向的国内外的团队和人。包括AI安全治理的子方向,每一个子方向国内外有哪些科研院所的哪些团队在做相关方向的工作,以及这些团队有哪些骨干成员,他们有哪些观点。以及这个团队有哪些治理成果,尽量详细
以下是关于 AI 安全治理方向的国内外团队和人的相关调研: 国外团队和人员: OpenAI:首席科学家 Ilya 对模型安全较为关注,提出了通过“指令层次结构”来修复“忽略所有先前指令“攻击的方法,并已在 GPT40 Mini 中得到部署。 Anthropic:在多重越狱方面的工作表明了“警告防御”的潜力,在前面和后面添加警告文本,以警示模型不要被越狱。 Gray Swan AI 的安全专家:试用“断路器”,专注于重新映射有害表示,效果比标准拒绝训练更好。 图灵奖得主 Hinton:支持对 AI 监管,认为大模型及其驱动的 AI 必须引入安全性监管,防止其失控或对人类造成伤害,并在网上签署了联名公开信。 英国:创建了世界上第一个人工智能安全研究所 AISA,具有在部署前对高级模型进行评估、建立国家能力并开展研究、协调国际合作伙伴等核心功能,还发布了 Inspect 框架用于 LLM 安全评估,并宣布与美国等效机构签署谅解备忘录,计划在美国旧金山设立办事处。 国内团队和人员:目前调研内容中未提及国内相关团队和人员的具体信息。 在观点方面,Bengio、Hinton、姚期智等著名研究者认为大模型及其驱动的 AI 必须引入安全性监管,确保大模型是 Safety 的,防止其失控或对人类造成伤害,并签署了联名公开信表达对于 AI 失控的担忧,呼吁学术界和工业界对大模型进行监管。吴恩达和 Lecun 则认为模型的能力不足以使其脱离人类的限制。 治理成果方面,英国通过其高级研究与发明机构(ARIA)花费 5900 万英镑开发“守门员”,负责了解和减少在能源、医疗保健和电信等关键领域中其他人工智能代理的风险。英国政府还计划设立一个“AI 安全研究实验室”。美国能源部一直在利用其内部测试床评估人工智能可能对关键基础设施和能源安全带来的风险。LLM 测试初创公司 Haize Labs 与 Hugging Face 合作创建了首个红队抵抗组织基准,汇编了常用的红队数据集并根据模型评估它们的成功率。Scale 根据私人评估推出了自己的稳健性排行榜。
2025-02-20
考研相关的AI工具
以下是一些与考研相关的 AI 工具: 1. 文献管理和搜索: Zotero:结合 AI 技术,能自动提取文献信息,便于管理和整理参考文献。 Semantic Scholar:由 AI 驱动的学术搜索引擎,提供文献推荐和引用分析。 2. 内容生成和辅助写作: Grammarly:通过 AI 提供文本校对、语法修正和写作风格建议,提升语言质量。 Quillbot:基于 AI 的重写和摘要工具,可精简和优化内容。 3. 研究和数据分析: Google Colab:提供基于云的 Jupyter 笔记本环境,支持 AI 和机器学习研究,方便进行数据分析和可视化。 Knitro:用于数学建模和优化,助力复杂数据分析和模型构建。 4. 论文结构和格式: LaTeX:结合自动化和模板,高效处理论文格式和数学公式。 Overleaf:在线 LaTeX 编辑器,有丰富模板库和协作功能,简化编写过程。 5. 研究伦理和抄袭检测: Turnitin:广泛使用的抄袭检测工具,确保论文原创性。 Crossref Similarity Check:检测潜在抄袭问题。 以下是一些与思维导图相关的 AI 工具: 1. GitMind:免费跨平台,可通过 AI 自动生成思维导图,支持多种模式。 2. ProcessOn:国内思维导图与 AIGC 结合,能利用 AI 生成。 3. AmyMind:轻量级在线工具,无需注册登录,支持自动生成节点。 4. Xmind Copilot:基于 GPT 的助手,可一键拓展思路,生成文章大纲。 5. TreeMind:输入需求由 AI 自动生成思维导图。 6. EdrawMind:提供 AI 头脑风暴功能,提升生产力。 以下是一些 AI 博主素材相关的工具: 1. AI 研究工具:Claude、ChatGPT、Bing Chat、Perplexity。 2. 图片处理:DallE、Leonardo、BlueWillow、Midjourney。 3. 版权写作:Rytr、Copy AI、Wordtune、Writesonic。 4. 设计:Canva、Clipdrop、Designify、Microsoft Designer。 5. 网站搭建:10Web、Framer、Hostinger、Landingsite。 6. 视频处理:Klap、Opus、Invideo、Heygen。 7. 音频处理:Murf、LovoAI、Resemble、Eleven Labs。 8. SEO 优化:Alli AI、BlogSEO、Seona AI、Clearscope。 9. Logo 设计:Looka、LogoAI、Brandmark、Logomaster。 10. 聊天机器人:Droxy、Chatbase、Voiceflow、Chatsimple。 11. 自动化工具:Make、Zapier、Bardeen、Postman。 12. 市场营销。 请注意,以上内容由 AI 大模型生成,请仔细甄别。
2025-02-19
有Ai短视频制作相关的免费教程吗
以下是一些关于 AI 短视频制作的免费教程资源: B 站 up 主 Nally 的课程,免费且每节 15 分钟。 二十四节气相关教程和关键词已开源,可直接复制使用。 以下是一些 AI 视频制作相关的工具和教程: 视频模型:Sora (https://waytoagi.feishu.cn/wiki/S5zGwt5JHiezbgk5YGic0408nBc) 工具教程:Hedra (https://waytoagi.feishu.cn/wiki/PvBwwvN36iFob7kqZktcCzZFnxd) 应用教程:视频转绘 (https://waytoagi.feishu.cn/wiki/ZjKpwSd5hiy6ZhkiBVHcOBb6n9r) 应用教程:视频拆解 (https://waytoagi.feishu.cn/wiki/WeKMwHRTmiVpYjkVdYpcFjqun6b) 应用教程:图片精修 (https://waytoagi.feishu.cn/wiki/CfJLwknV1i8nyRkPaArcslWrnle) 以下是几个视频 AIGC 工具: Opusclip:利用长视频剪成短视频 Raskai:短视频素材直接翻译至多语种 invideoAI:输入想法>自动生成脚本和分镜描述>生成视频>人工二编>合成长视频 descript:屏幕/播客录制>PPT 方式做视频 veed.io:自动翻译自动字幕 clipchamp:微软的 AI 版剪映 typeframes:类似 invideoAI,内容呈现文本主体比重更多 google vids 在制作视频方面,以下是一些推荐: 最佳动画工具:用于在视频中为人脸制作动画的 DiD (https://www.did.com/)。用于从文本创建视频的 Runway v2 (https://app.runwayml.com/) 最佳语音克隆:ElevenLabs (https://beta.elevenlabs.io/speechsynthesis) 需要注意的是,深度伪造是一个巨大的问题,这些系统需要合乎道德地使用。
2025-02-19
有Ai短视频制作相关的免费教程吗
以下是一些关于 AI 短视频制作的免费教程资源: B 站 up 主 Nally 的课程,免费且每节 15 分钟。 二十四节气相关教程和关键词已开源,可直接复制使用。 以下是一些 AI 视频制作相关的工具和教程: 视频模型:Sora (https://waytoagi.feishu.cn/wiki/S5zGwt5JHiezbgk5YGic0408nBc) 工具教程:Hedra (https://waytoagi.feishu.cn/wiki/PvBwwvN36iFob7kqZktcCzZFnxd) 应用教程:视频转绘 (https://waytoagi.feishu.cn/wiki/ZjKpwSd5hiy6ZhkiBVHcOBb6n9r) 应用教程:视频拆解 (https://waytoagi.feishu.cn/wiki/WeKMwHRTmiVpYjkVdYpcFjqun6b) 应用教程:图片精修 (https://waytoagi.feishu.cn/wiki/CfJLwknV1i8nyRkPaArcslWrnle) 以下是几个视频 AIGC 工具: Opusclip:利用长视频剪成短视频 Raskai:短视频素材直接翻译至多语种 invideoAI:输入想法>自动生成脚本和分镜描述>生成视频>人工二编>合成长视频 descript:屏幕/播客录制>PPT 方式做视频 veed.io:自动翻译自动字幕 clipchamp:微软的 AI 版剪映 typeframes:类似 invideoAI,内容呈现文本主体比重更多 google vids 在制作视频方面,以下是一些推荐: 最佳动画工具:用于在视频中为人脸制作动画的 DiD (https://www.did.com/)。用于从文本创建视频的 Runway v2 (https://app.runwayml.com/) 最佳语音克隆:ElevenLabs (https://beta.elevenlabs.io/speechsynthesis) 需要注意的是,深度伪造是一个巨大的问题,这些系统需要合乎道德地使用。
2025-02-19
有什么AI相关的笔记软件,既可以记录我的想法、灵感,然后AI也可以直接生成对我所写内容的评价(如可以安抚情绪),并且这个笔记软件的检索功能很好用
以下是一些符合您需求的 AI 相关笔记软件: 1. Notion AI:https://www.notion.so/help/guides/category/ai?ref=indigox.me 随着大语言模型的流行,其在智能化方面表现出色。 2. Mem.ai:https://mem.ai/?ref=indigox.me 一款 AI 驱动的笔记工具。 3. Pile:https://udara.io/pile/ 开源且界面美观,助力日记撰写和记录,集成 OpenAI API,具有 AI 搜索和问题解答功能,保证安全隐私。项目源码:https://github.com/UdaraJay/Pile
2025-02-19