Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

怎么训练自己的模型

Answer

训练自己的模型可以参考以下内容：

  • 基于百川大模型：
    • 选择 Baichuan2-7B-Chat 模型作为底模，配置模型本地路径和提示模板。
    • 在 Train 页面里，选择 sft 训练方式，加载定义好的数据集（如 wechat 和 self_cognition）。
    • 注意学习率和训练轮次的设置，要根据数据集大小和收敛情况来调整。
    • 使用 FlashAttention-2 可减少显存需求，加速训练速度。
    • 显存小的情况下，可以减少 batch size 并开启量化训练，内置的 QLora 训练方式好用。
    • 需要用到 xformers 的依赖。
    • 显存占用约 20G 左右，训练时间根据聊天记录规模大小而定，少则几小时，多则几天。
  • 训练自己的 AI 绘画模型（Stable Diffusion）：
    • 样本采样器（sample_sampler）：可选择["ddim","pndm","lms","euler","euler_a","heun","dpm_2","dpm_2_a","dpmsolver","dpmsolver++","dpmsingle","k_lms","k_euler","k_euler_a","k_dpm_2","k_dpm_2_a"]，默认是“ddim”。
    • 保存模型格式（save_model_as）：可选择["ckpt","safetensors","diffusers","diffusers_safetensors"]，SD WebUI 兼容"ckpt"和"safetensors"格式模型。
    • 训练流程主要包括：
      • 训练集制作：数据质量评估、标签梳理、数据清洗、标注、标签清洗、增强等。
      • 训练文件配置：预训练模型选择、训练环境配置、训练步数及其他超参数设置等。
      • 模型训练：运行训练脚本，使用 TensorBoard 监控。
      • 模型测试：用于效果评估与消融实验。
    • 训练资源：
Content generated by AI large model, please carefully verify (powered by aily)

References

创作：基于百川大模型向微信群大佬们虚心学习

选择Baichuan2-7B-Chat模型作为底模，配置模型本地路径，配置提示模板Train页面里，选择sft训练方式，加载定义好的数据集wechat和self_cognition。其中学习率和训练轮次非常重要，根据自己的数据集大小和收敛情况来设置，使用FlashAttention-2则可以减少显存需求，加速训练速度；显存小的朋友可以减少batch size和开启量化训练，内置的QLora训练方式非常好用。需要用到xformers的依赖具体命令参数如下：显存占用20G左右，耐心等待一段时间，请神模式开启...根据聊天记录规模大小，少则要几小时，多则几天，一个虚拟助手就能训练完成了。专不专业还有待大量标准问答验证，只是口气和习惯的模仿是有点意思的，若再加上[《克隆自己的声音——赛博分身必备技能》](http://mp.weixin.qq.com/s?__biz=MzI0MzA4NDkwMw==&mid=2247492147&idx=1&sn=efacb40a6c5610b6ed7368ba1d043f13&chksm=e970d93bde07502df2ff09ae3e700923ae285c21c7151282870d9e1db309da07ee5a49f609ed&scene=21#wechat_redirect)的效果，那几乎就传神了。不过这里还有很多细节工作需要完善：

教程：深入浅出完整解析Stable Diffusion（SD）核心基础知识 - 知乎

sample_sampler：设置训练中测试模型效果时使用的sampler，可以选择["ddim","pndm","lms","euler","euler_a","heun","dpm_2","dpm_2_a","dpmsolver","dpmsolver++","dpmsingle","k_lms","k_euler","k_euler_a","k_dpm_2","k_dpm_2_a"]，默认是“ddim”。save_model_as：每次模型权重保存时的格式，可以选择["ckpt","safetensors","diffusers","diffusers_safetensors"]，目前SD WebUI兼容"ckpt"和"safetensors"格式模型。（3）SD关键参数详解（4）SD模型训练完成训练参数配置后，我们就可以运行训练脚本进行SD模型的全参微调训练了。我们本次训练用的底模型选择了WeThinkIn_SD_二次元模型，大家可以关注Rocky的公众号WeThinkIn，后台回复“ SD_二次元模型”获取模型资源链接。我们打开SD_finetune.sh脚本，可以看到以下的代码：我们把训练脚本封装在accelerate库里，这样就能启动我们一开始配置的训练环境了。在本文的6.2节中，我们已经详细介绍了如何配置accelerate训练环境，如果我们想要切换不同的训练环境参数，我们只需要将accelerate_config.yaml改成我们所需要的配置文件与路径即可（比如：/本地路径/new_accelrate_config.yaml）。

教程：深入浅出完整解析Stable Diffusion（SD）核心基础知识 - 知乎

Stable Diffusion系列模型的训练流程主要分成以下几个步骤：1.训练集制作：数据质量评估，标签梳理，数据清洗，数据标注，标签清洗，数据增强等。2.训练文件配置：预训练模型选择，训练环境配置，训练步数设置，其他超参数设置等。3.模型训练：运行SD模型/LoRA模型训练脚本，使用TensorBoard监控模型训练等。4.模型测试：将训练好的自训练SD模型/LoRA模型用于效果评估与消融实验。讲完Stable Diffusion模型训练的方法论，Rocky再向大家推荐一些Stable Diffusion的训练资源：[https:// github.com/Linaqruf/koh ya-trainer](https://link.zhihu.com/?target=https%3A//github.com/Linaqruf/kohya-trainer)（本文中主要的训练工程）[https:// github.com/huggingface/ diffusers/tree/main/examples](https://link.zhihu.com/?target=https%3A//github.com/huggingface/diffusers/tree/main/examples)（huggingface的diffusers开源训练框架）Rocky整理优化过的SD完整训练资源SD-Train项目，大家只用在SD-Train中就可以完成SD的模型训练工作，方便大家上手实操。SD-Train项目资源包可以通过关注公众号WeThinkIn，后台回复“ SD-Train ”获取。目前我们对Stable Diffusion的训练流程与所需资源有了初步的了解，接下来，就让我们跟随着Rocky的脚步，从0到1使用Stable Diffusion模型和训练资源一起训练自己的Stable Diffusion绘画模型与LoRA绘画模型吧！

Others are asking
我想做一个产品（生涯规划领域的垂直大模型），这个产品服务的对象是所有人：帮助所有人进行更好的职业规划。每个人都能通过使用这个产品更好地了解自己，了解自己的天赋、兴趣、优势，然后找到自己的热爱的领域和热爱的事业，并且能够个性化地推荐相关的行业和职业，包括职业的主要工作内容和核心能力要求等等。 请对这个产品进行可行性分析，并给出产品的发展规划，别忘了给这个项目起一个名字。
以下是对您提出的生涯规划领域垂直大模型产品的可行性分析和发展规划，并为项目取名为“生涯智途”。 可行性分析： 1. 需求广泛：帮助人们进行职业规划是一个普遍存在的需求，涵盖了各个年龄段和职业阶段的人群。 2. 数据可用性：可以通过各种渠道收集大量与职业相关的数据，包括行业报告、职位描述、人才需求等。 3. 技术支持：当前大模型技术的发展为实现这样的产品提供了可能，能够处理和分析大量复杂的数据。 发展规划： 1. 数据收集与整理：广泛收集各类职业数据，建立丰富的数据库，确保数据的准确性和完整性。 2. 模型训练与优化：利用收集到的数据进行模型训练，不断优化模型，提高预测和推荐的准确性。 3. 功能开发： 个性化测评：开发能够准确评估用户天赋、兴趣、优势的功能模块。 精准推荐：根据用户的特点，提供个性化的行业和职业推荐，并详细介绍职业的工作内容和核心能力要求。 持续学习与更新：随着行业变化，及时更新数据和模型，以提供最新的职业信息。 4. 用户体验优化：设计简洁、易用的界面，提供良好的用户交互体验。 5. 市场推广：通过线上线下多种渠道进行推广，提高产品的知名度和用户覆盖面。 希望以上分析和规划对您有所帮助。
2025-02-18
现在大语言模型的跑分对比
对比不同大语言模型的性能需要考虑多个维度，包括但不限于以下方面： 1. 理解能力：评估对语言的语法、语义、上下文和隐含意义的理解程度。 2. 生成质量：检查生成文本的流畅性、相关性和准确性。 3. 知识广度和深度：掌握广泛主题的知识程度，以及对特定领域或话题的理解深度。 4. 泛化能力：处理未见过的任务或数据时的表现。 5. 鲁棒性：应对错误输入、对抗性输入或模糊不清指令的能力。 6. 偏见和伦理：生成文本时是否存在偏见，是否遵循伦理标准。 7. 交互性和适应性：在交互环境中的表现，包括对用户反馈的适应性和持续对话的能力。 8. 计算效率和资源消耗：考虑模型大小、训练和运行所需的计算资源。 9. 易用性和集成性：是否易于集成到不同应用和服务中，提供的 API 和工具的易用性。 为了进行有效的比较，可以采用以下方法： 1. 标准基准测试：使用如 GLUE、SuperGLUE、SQuAD 等标准的语言模型评估基准，它们提供统一的测试环境和评分标准。 2. 自定义任务：根据特定需求设计任务，评估模型在特定领域的表现。 3. 人类评估：结合人类评估者的主观评价，特别是在评估文本质量和伦理问题时。 4. A/B 测试：在实际应用场景中，通过 A/B 测试比较不同模型的表现。 5. 性能指标：使用准确率、召回率、F1 分数、BLEU 分数等性能指标来量化比较。 当前领先的大型语言模型的排行榜，例如聊天机器人竞技场，由伯克利的团队管理，根据 ELO 评级对不同语言模型进行排名，计算方式与国际象棋中的类似。在排行榜中，顶部多为专有模型，下方有开放权重的模型。 大语言模型的特点包括： 1. 架构：有 encoderonly、encoderdecoder、decoderonly 等，如 BERT 是 encoderonly 模型，google 的 T5 是 encoderdecoder 模型，众多 AI 助手多为 decoderonly 模型。 2. 数据和参数：预训练数据量大，往往来自互联网，包括论文、代码、公开网页等，参数多，如 OpenAI 在 2020 年发布的 GPT3 已达到 170B 的参数。
2025-02-18
现在大语言模型的跑分对比
对比不同大语言模型的性能需要考虑多个维度，包括但不限于以下方面： 1. 理解能力：评估对语言的语法、语义、上下文和隐含意义的理解程度。 2. 生成质量：检查生成文本的流畅性、相关性和准确性。 3. 知识广度和深度：掌握广泛主题的知识程度，以及对特定领域或话题的理解深度。 4. 泛化能力：处理未见过的任务或数据时的表现。 5. 鲁棒性：应对错误输入、对抗性输入或模糊不清指令的能力。 6. 偏见和伦理：生成文本时是否存在偏见，是否遵循伦理标准。 7. 交互性和适应性：在交互环境中的表现，包括对用户反馈的适应性和持续对话的能力。 8. 计算效率和资源消耗：考虑模型大小、训练和运行所需的计算资源。 9. 易用性和集成性：是否易于集成到不同应用和服务中，提供的 API 和工具的易用性。 为了进行有效的比较，可以采用以下方法： 1. 标准基准测试：使用如 GLUE、SuperGLUE、SQuAD 等标准的语言模型评估基准，它们提供统一的测试环境和评分标准。 2. 自定义任务：根据特定需求设计任务，评估模型在特定领域的表现。 3. 人类评估：结合人类评估者的主观评价，特别是在评估文本质量和伦理问题时。 4. A/B 测试：在实际应用场景中，通过 A/B 测试比较不同模型的表现。 5. 性能指标：使用准确率、召回率、F1 分数、BLEU 分数等性能指标来量化比较。 当前领先的大型语言模型的排行榜，例如聊天机器人竞技场，由伯克利的团队管理，根据 ELO 评级对不同语言模型进行排名，计算方式与国际象棋中的类似。在排行榜中，顶部多为专有模型，下方有开放权重的模型。 大语言模型的特点包括： 1. 架构：有 encoderonly、encoderdecoder、decoderonly 等，如 BERT 是 encoderonly 模型，google 的 T5 是 encoderdecoder 模型，众多 AI 助手多为 decoderonly 模型。 2. 数据和参数：预训练数据量大，往往来自互联网，包括论文、代码、公开网页等，参数多，如 OpenAI 在 2020 年发布的 GPT3 已达到 170B 的参数。
2025-02-18
什么是大模型一体机
大模型一体机是一个相对复杂的概念。通俗来讲，大模型是输入大量语料，让计算机获得类似人类的“思考”能力，能够进行文本生成、推理问答、对话、文档摘要等工作。其本质是两个文件：一个是参数文件，类似于问答机器人的“大脑镜像”，负责处理和生成文本信息；另一个是包含运行这些参数的代码文件。 大模型的训练和使用过程可以类比为上学参加工作： 1. 找学校：训练大模型需要大量计算，GPU 更合适，只有购买得起大量 GPU 的才有资本训练。 2. 确定教材：大模型需要的数据量特别多，几千亿序列（Token）的输入基本是标配。 3. 找老师：即用合适的算法讲述“书本”中的内容，让大模型更好理解 Token 之间的关系。 4. 就业指导：为了让大模型更好胜任某一行业，需要进行微调（fine tuning）指导。 5. 搬砖：就业指导完成后，进行如翻译、问答等工作，在大模型里称之为推导（infer）。 大模型的特点包括： 1. 预训练数据非常大，往往来自互联网上的论文、代码、公开网页等，一般用 TB 级别的数据进行预训练。 2. 参数非常多，如 Open 在 2020 年发布的 GPT3 就已达到 170B 的参数。 在架构方面，大模型有 encoderonly、encoderdecoder、decoderonly 等类型。目前常见的 AI 助手多采用 decoderonly 架构。
2025-02-18
传统AI、大模型、AGI的区别
传统 AI、大模型、AGI 存在以下区别： 传统 AI： 语音技能 NLU 通常通过一系列规则、分词策略等训练而成。 运作逻辑规律可观测，具有 ifelse 式的逻辑性。 大模型： 凭借海量数据在向量空间中学习知识的关联性。 运作逻辑难以观测，脱离了 ifelse 的层面。 Transformer 是其底层结构，是一个大参数（千亿级别）的回归方程，底层是 function loss 损失函数，能在一定 prompt condition 情况下，repeat 曾经出现过的数据内容，实现“生成”能力。 大语言模型是一个 perfect memory，repeat 曾经出现的内容。与 Alpha Go 相比，Alpha Go 是增强学习模型，有推理能力，而大语言模型这块很弱。 AGI（通用人工智能）： 部分人觉得 LLM（大语言模型）具有 AGI 潜力，但 LeCun 反对。 目前对于能否到达 AGI 阶段尚不明确。 在公众传播层面： AIGC 指用 Stable Diffusion 或 Midjourney 生成图像内容，后来泛指用 AI 生成音乐、图像、视频等内容。 LLM 指 NLP 领域的大语言模型，如 ChatGPT。 GenAI 是生成式人工智能模型，国内官方政策文件使用这个词相对科学，涵盖了 LLM 和 AIGC。 公众传播一般会混用上述名词，但底层是 transformer 结构。
2025-02-18
有哪些在企业内部落地应用AI大模型工具的实践案例？不要营销文案生成、代码开发助手、智能客服问答机器人这种太常见的
以下是一些在企业内部落地应用 AI 大模型工具的实践案例： 1. 阿里云百炼： 智能体应用：能够弥补大模型的不足，如回答私有领域问题、获取实时信息、回答专业问题等。适用于有企业官网、钉钉、微信等渠道，期望为客户提供产品咨询服务，以及缺少技术人员开发大模型问答应用的场景。典型场景包括私有领域知识问答、个性化聊天机器人、智能助手等。 内部业务助手：通过企业内部规章制度、部门结构、产品介绍等文档构建知识库，并借助 RAG 智能体实现内部知识问答功能。系统支持多源异构数据，并通过复杂文档解析和视觉增强技术，提升文档理解的准确性与深度。目前该功能已灰度上线，需提供 UID 并通过白名单进行开启。 2. 达摩院： AI 模特（虚拟换装）：支持虚拟换装、姿态编辑。 3. 电商零售： 推广文案写作：通过内置的多样化营销场景的文体模板，基于用户输入的创作主题以及参考素材，大模型即可为您生成对应的营销文案，为营销活动和宣传文案提供灵感和文案写作支持。 4. 泛企业： VOC 挖掘：是一个面向各类企业的 VOC 标签挖掘的工具。不论是用户的长短评论、帖子、还是用户和客服/销售的聊天记录、通话记录，都可以使用。通过选中或自定义标签，即可让大模型针对海量非结构化的 VOC 数据快速打标。相比于人工打标或规则打标准确率更高；对于业务标签变动频繁的情况，也能更敏捷、快速地影响。 5. 通义晓蜜：基于深度调优的对话大模型，为营销服类产品提供智能化升级所需的生成式摘要总结、质检、分析等能力应用。
2025-02-18
agent训练
在人工智能领域中，AI Agent 的训练具有以下特点： 传统强化学习中，Agent 训练往往需大量样本和时间，且泛化能力不足。 为突破瓶颈，引入了迁移学习：通过促进不同任务间知识和经验迁移，减轻新任务学习负担，提升学习效率和性能，增强泛化能力，但当源任务与目标任务差异大时，可能无法发挥效果甚至出现负面迁移。 探索了元学习：核心是让 Agent 学会从少量样本中迅速掌握新任务最优策略，能利用已有知识和策略调整学习路径适应新任务，减少对大规模样本集依赖，但需要大量预训练和样本构建学习能力，使开发通用高效学习策略复杂艰巨。 时间：21 世纪初至今 特点：迁移学习是将一个任务学到的知识迁移到其他任务；元学习是学习如何学习，快速适应新任务。 技术：迁移学习如领域自适应；元学习如 MAML、MetaLearner LSTM。 优点：提高学习效率，适应新任务。 缺点：对源任务和目标任务的相似性有一定要求。 此外，智谱 AI 开源的语言模型中与 Agent 相关的有： AgentLM7B：提出了 AgentTuning 方法，开源了包含 1866 个高质量交互、6 个多样化真实场景任务的 Agent 数据集 AgentInstruct，基于上述利用 Llama2 微调而成，上下文 token 数为 4K。 AgentLM13B：上下文 token 数为 4K。 AgentLM70B：上下文 token 数为 8K。
2025-02-18
大语言模型、多模态、数据、算力、算法、预训练、微调、RAG、自注意力机制、transformer、token、神经网络、向量、scaling law这些内容的含义
以下是对您所提到的这些内容含义的解释： 大语言模型：是一种基于大量文本数据进行训练的语言处理模型，其工作原理包括训练数据、算力、模型参数等。在训练数据一致的情况下，模型参数越大能力越强。 多模态：指能够处理多种不同类型的数据模态，如文本、图像、音频等，并将它们融合进行理解和生成。 数据：是大语言模型训练和应用的基础，包括各种文本、图像、音频等信息。 算力：指用于支持大语言模型训练和运行的计算能力。 算法：是大语言模型实现各种功能的数学和逻辑方法。 预训练：在大语言模型中，先在大规模数据上进行无特定任务的初步训练。 微调：基于通用大模型，针对特定领域任务提供数据进行学习和调整，以适应特定领域的需求。 RAG：检索增强生成，通过引用外部数据源为模型做数据补充，适用于动态知识更新需求高的任务。其工作流程包括检索、数据库索引、数据索引、分块、嵌入和创建索引、增强、生成等步骤。 自注意力机制：是 Transformer 架构中的重要部分，能理解上下文和文本关联，通过不断检索和匹配来寻找依赖关系，处理词和词之间的位置组合，预测下一个词的概率。 Transformer：是大语言模型训练架构，用于翻译等任务，具备自注意力机制。 Token：在自然语言处理中，是文本的基本单位。 神经网络：是大语言模型的基础架构，模拟人脑神经元的连接和信息处理方式。 向量：在大语言模型中，用于表示文本等数据的数学形式。 Scaling Law：关于大语言模型规模和性能之间关系的规律。
2025-02-18
大语言模型、多模态、数据、算力、算法、预训练、微调、RAG、自注意力机制、transformer、token、神经网络、向量、scaling law这些内容的含义
以下是对您所提到的这些内容含义的解释： 大语言模型：是一种基于大量文本数据进行训练的语言处理模型，其工作原理包括训练数据、算力、模型参数等。在训练数据一致的情况下，模型参数越大能力越强。 多模态：指能够处理多种不同类型的数据模态，如文本、图像、音频等，并将它们融合进行理解和生成。 数据：是大语言模型训练和应用的基础，包括各种文本、图像、音频等信息。 算力：指用于支持大语言模型训练和运行的计算能力。 算法：是大语言模型实现各种功能的数学和逻辑方法。 预训练：在大语言模型中，先在大规模数据上进行无特定任务的初步训练。 微调：基于通用大模型，针对特定领域任务提供数据进行学习和调整，以适应特定领域的需求。 RAG：检索增强生成，通过引用外部数据源为模型做数据补充，适用于动态知识更新需求高的任务。其工作流程包括检索、数据库索引、数据索引、分块、嵌入和创建索引、增强、生成等步骤。 自注意力机制：是 Transformer 架构中的重要部分，能理解上下文和文本关联，通过不断检索和匹配来寻找依赖关系，处理词和词之间的位置组合，预测下一个词的概率。 Transformer：是大语言模型训练架构，用于翻译等任务，具备自注意力机制。 Token：在自然语言处理中，是文本的基本单位。 神经网络：是大语言模型的基础架构，模拟人脑神经元的连接和信息处理方式。 向量：在大语言模型中，用于表示文本等数据的数学形式。 Scaling Law：关于大语言模型规模和性能之间关系的规律。
2025-02-18
主流的LORA 训练工具是什么？
主流的 LORA 训练工具包括： 1. B 站 UP 主“朱尼酱”的赛博丹炉，其界面友好、美观，适合新手入门。 2. 训练器，支持 Kolors 开源模型。 3. Kolors+Refiner，由 AIKSK 开发的工作流应用。 4. Kolors可图大模型XL 精修工作流，由@AiARTiST 非人类开发。 5. kolors+SDXL 细节修复+instant+ipa，由@谷尘 DesignDog 开发。 6. kolors 一键设计中文海报，由亦诚视觉开发。 7. ，魔搭社区官方模型。 8. InstantIDKolors 专属模型，由 InstantX 开发。
2025-02-18
flux lora训练
以下是关于 Flux 的 Lora 模型训练的详细步骤： 模型准备： 1. 下载所需模型：t5xxl_fp16.safetensors、clip_l.safetensors、ae.safetensors、flux1dev.safetensors。 注意：不使用时存放位置不限，只要知晓路径即可。训练时建议使用 flux1dev.safetensors 版本的模型和 t5xxl_fp16.safetensors 版本的编码器。 下载脚本： 1. 网盘链接： 夸克网盘链接：https://pan.quark.cn/s/ddf85bb2ac59 百度网盘链接：https://pan.baidu.com/s/1pBHPYpQxgTCcbsKYgBi_MQ?pwd=pfsq 提取码：pfsq 安装虚拟环境： 1. 下载完脚本并解压。 2. 在文件中找到 installcnqinglong.ps1 文件，右键选择“使用 PowerShell 运行”。 3. 新手在此点击“Y”，然后等待 1 2 小时的下载过程。下载完成后会提示是否下载 hunyuan 模型，选择“n”不用下载。 数据集准备： 1. 进入厚德云 模型训练 数据集：https://portal.houdeyun.cn/sd/dataset 2. 创建数据集：在数据集一栏中，点击右上角创建数据集，输入数据集名称。 可以上传包含图片 + 标签 txt 的 zip 文件，也可以上传只有图片的文件（之后可在 c 站使用自动打标功能），或者一张一张单独上传照片。建议提前将图片和标签打包成 zip 上传，Zip 文件里图片名称与标签文件应当匹配，例如：图片名“1.png”，对应的达标文件就叫“1.txt”。 上传 zip 以后等待一段时间，确认创建数据集。返回到上一个页面，等待一段时间后上传成功，可以点击详情检查，可预览到数据集的图片以及对应的标签。 Lora 训练： 1. 点击 Flux，基础模型会默认是 FLUX 1.0D 版本。 2. 选择数据集，点击右侧箭头，会跳出所有上传过的数据集。 3. 触发词可有可无，取决于数据集是否有触发词。模型效果预览提示词则随机抽取一个数据集中的标签填入即可。 4. 训练参数这里可以调节重复次数与训练轮数，厚德云会自动计算训练步数。如果不知道如何设置，可以默认 20 重复次数和 10 轮训练轮数。 5. 可以按需求选择是否加速，点击开始训练，会显示所需要消耗的算力。 6. 等待训练，会显示预览时间和进度条。训练完成会显示每一轮的预览图。鼠标悬浮到想要的轮次模型，中间会有个生图，点击会自动跳转到使用此 lora 生图的界面。点击下方的下载按钮则会自动下载到本地。 数据集存放位置：.Flux_train_20.4\\train\\qinglong\\train 运行训练：约 1 2 小时即可训练完成。 验证和 lora 跑图：有 ComfyUI 基础的话，直接在原版工作流的模型后面，多加一个 LoraloaderModelOnly 的节点就可以，自行选择您的 Lora 和调节参数。
2025-02-17
LLM 训练推理模型有哪些
以下是一些常见的 LLM 训练推理模型： 1. FengshenbangLM： 地址： 简介：是 IDEA 研究院认知计算与自然语言研究中心主导的大模型开源体系，开源了姜子牙通用大模型 V1，是基于 LLaMa 的 130 亿参数的大规模预训练模型，具备翻译、编程、文本分类、信息抽取、摘要、文案生成、常识问答和数学计算等能力。除姜子牙系列模型之外，还开源了太乙、二郎神系列等模型。 2. BiLLa： 地址： 简介：开源了推理能力增强的中英双语 LLaMA 模型。较大提升 LLaMA 的中文理解能力，并尽可能减少对原始 LLaMA 英文能力的损伤；训练过程增加较多的任务型数据，利用 ChatGPT 生成解析，强化模型理解任务求解逻辑；全量参数更新，追求更好的生成效果。 3. Moss： 地址： 简介：支持中英双语和多种插件的开源对话语言模型，MOSS 基座语言模型在约七千亿中英文以及代码单词上预训练得到，后续经过对话指令微调、插件增强学习和人类偏好训练具备多轮对话能力及使用多种插件的能力。 此外，Andrej Karpathy 的相关介绍中提到了 LLM 训练的一些情况，如训练过程涉及大约 10TB 的文本，通常来源于互联网的抓取，需要大量的互联网资源和一个 GPU 集群，费用大约 200 万美元。Karpathy 的视频还详细介绍了 LLM 训练的全部过程，包括预训练、有监督微调和强化学习等。
2025-02-16