直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

怎么训练自己的模型

回答

训练自己的模型可以参考以下内容：

  • 基于百川大模型：
    • 选择 Baichuan2-7B-Chat 模型作为底模，配置模型本地路径和提示模板。
    • 在 Train 页面里，选择 sft 训练方式，加载定义好的数据集（如 wechat 和 self_cognition）。
    • 注意学习率和训练轮次的设置，要根据数据集大小和收敛情况来调整。
    • 使用 FlashAttention-2 可减少显存需求，加速训练速度。
    • 显存小的情况下，可以减少 batch size 并开启量化训练，内置的 QLora 训练方式好用。
    • 需要用到 xformers 的依赖。
    • 显存占用约 20G 左右，训练时间根据聊天记录规模大小而定，少则几小时，多则几天。
  • 训练自己的 AI 绘画模型（Stable Diffusion）：
    • 样本采样器（sample_sampler）：可选择["ddim","pndm","lms","euler","euler_a","heun","dpm_2","dpm_2_a","dpmsolver","dpmsolver++","dpmsingle","k_lms","k_euler","k_euler_a","k_dpm_2","k_dpm_2_a"]，默认是“ddim”。
    • 保存模型格式（save_model_as）：可选择["ckpt","safetensors","diffusers","diffusers_safetensors"]，SD WebUI 兼容"ckpt"和"safetensors"格式模型。
    • 训练流程主要包括：
      • 训练集制作：数据质量评估、标签梳理、数据清洗、标注、标签清洗、增强等。
      • 训练文件配置：预训练模型选择、训练环境配置、训练步数及其他超参数设置等。
      • 模型训练：运行训练脚本，使用 TensorBoard 监控。
      • 模型测试：用于效果评估与消融实验。
    • 训练资源：
内容由 AI 大模型生成，请仔细甄别（powered by aily）

参考资料

创作：基于百川大模型向微信群大佬们虚心学习

选择Baichuan2-7B-Chat模型作为底模，配置模型本地路径，配置提示模板Train页面里，选择sft训练方式，加载定义好的数据集wechat和self_cognition。其中学习率和训练轮次非常重要，根据自己的数据集大小和收敛情况来设置，使用FlashAttention-2则可以减少显存需求，加速训练速度；显存小的朋友可以减少batch size和开启量化训练，内置的QLora训练方式非常好用。需要用到xformers的依赖具体命令参数如下：显存占用20G左右，耐心等待一段时间，请神模式开启...根据聊天记录规模大小，少则要几小时，多则几天，一个虚拟助手就能训练完成了。专不专业还有待大量标准问答验证，只是口气和习惯的模仿是有点意思的，若再加上[《克隆自己的声音——赛博分身必备技能》](http://mp.weixin.qq.com/s?__biz=MzI0MzA4NDkwMw==&mid=2247492147&idx=1&sn=efacb40a6c5610b6ed7368ba1d043f13&chksm=e970d93bde07502df2ff09ae3e700923ae285c21c7151282870d9e1db309da07ee5a49f609ed&scene=21#wechat_redirect)的效果，那几乎就传神了。不过这里还有很多细节工作需要完善：

教程：深入浅出完整解析Stable Diffusion（SD）核心基础知识 - 知乎

sample_sampler：设置训练中测试模型效果时使用的sampler，可以选择["ddim","pndm","lms","euler","euler_a","heun","dpm_2","dpm_2_a","dpmsolver","dpmsolver++","dpmsingle","k_lms","k_euler","k_euler_a","k_dpm_2","k_dpm_2_a"]，默认是“ddim”。save_model_as：每次模型权重保存时的格式，可以选择["ckpt","safetensors","diffusers","diffusers_safetensors"]，目前SD WebUI兼容"ckpt"和"safetensors"格式模型。（3）SD关键参数详解（4）SD模型训练完成训练参数配置后，我们就可以运行训练脚本进行SD模型的全参微调训练了。我们本次训练用的底模型选择了WeThinkIn_SD_二次元模型，大家可以关注Rocky的公众号WeThinkIn，后台回复“ SD_二次元模型”获取模型资源链接。我们打开SD_finetune.sh脚本，可以看到以下的代码：我们把训练脚本封装在accelerate库里，这样就能启动我们一开始配置的训练环境了。在本文的6.2节中，我们已经详细介绍了如何配置accelerate训练环境，如果我们想要切换不同的训练环境参数，我们只需要将accelerate_config.yaml改成我们所需要的配置文件与路径即可（比如：/本地路径/new_accelrate_config.yaml）。

教程：深入浅出完整解析Stable Diffusion（SD）核心基础知识 - 知乎

Stable Diffusion系列模型的训练流程主要分成以下几个步骤：1.训练集制作：数据质量评估，标签梳理，数据清洗，数据标注，标签清洗，数据增强等。2.训练文件配置：预训练模型选择，训练环境配置，训练步数设置，其他超参数设置等。3.模型训练：运行SD模型/LoRA模型训练脚本，使用TensorBoard监控模型训练等。4.模型测试：将训练好的自训练SD模型/LoRA模型用于效果评估与消融实验。讲完Stable Diffusion模型训练的方法论，Rocky再向大家推荐一些Stable Diffusion的训练资源：[https:// github.com/Linaqruf/koh ya-trainer](https://link.zhihu.com/?target=https%3A//github.com/Linaqruf/kohya-trainer)（本文中主要的训练工程）[https:// github.com/huggingface/ diffusers/tree/main/examples](https://link.zhihu.com/?target=https%3A//github.com/huggingface/diffusers/tree/main/examples)（huggingface的diffusers开源训练框架）Rocky整理优化过的SD完整训练资源SD-Train项目，大家只用在SD-Train中就可以完成SD的模型训练工作，方便大家上手实操。SD-Train项目资源包可以通过关注公众号WeThinkIn，后台回复“ SD-Train ”获取。目前我们对Stable Diffusion的训练流程与所需资源有了初步的了解，接下来，就让我们跟随着Rocky的脚步，从0到1使用Stable Diffusion模型和训练资源一起训练自己的Stable Diffusion绘画模型与LoRA绘画模型吧！

其他人在问
企业做自己的小模型，需要用到的工具及工具背后的公司都有哪些？
企业做自己的小模型，可能会用到以下工具及背后的公司： 1. 在编排（Orchestration）方面，涉及的公司如 DUST、FIAVIE、LangChain 等，其提供的工具可帮助管理和协调各部分及任务，确保系统流畅运行。 2. 部署、可扩展性和预训练（Deployment, Scalability, & PreTraining）类别中，像 UWA mosaicm、NMAREL、anyscale 等公司提供的工具，有助于部署模型、保证可扩展性及进行预训练。 3. 处理上下文和嵌入（Context & Embeddings）的工具，相关公司有 TRUDO、Llamalndex、BerriAI 等，能帮助模型处理和理解语言上下文，并将词语和句子转化为计算机可理解的形式。 4. 质量保证和可观察性（QA & Observability）方面，例如 Pinecone、drant、Vald 等公司提供的工具，可确保模型表现并监控其性能和状态。 此外，还有以下工具和相关公司： 1. 图片生成 3D 建模工具，如 Tripo AI（由 VAST 发布）、Meshy、CSM AI（Common Sense Machines）、Sudo AI、VoxCraft（由生数科技推出）等。 企业还可能涉及具身智能、3D 眼镜、AI 绘本、AI 图书、学习机、飞书的多维表格、蚂蚁的智能体、Coze 的智能体、Zeabur 等云平台、0 编码平台、大模型（通义、智谱、kimi、deepseek 等）、编程辅助、文生图（可灵、即梦等）等方面，可能需要相应资质。
2024-11-20
你认为目前最好用的大模型有哪些？
目前最好用的大模型包括： 1. OpenAI 的 GPT4：是最先进和广泛使用的大型语言模型之一，在多种任务上表现卓越，如文本生成、理解、翻译及各种专业和创意写作任务，能通过大量数据学习理解和生成人类语言，处理复杂问题和理解上下文能力出色。 2. Anthropic 公司的 Claude 3。 3. 谷歌的 Gemini。 4. 百度的文心一言。 5. 阿里巴巴的通义大模型。 大型模型主要分为两类： 1. 大型语言模型：专注于处理和生成文本信息。 2. 大型多模态模型：能够处理包括文本、图片、音频等多种类型的信息。 大型多模态模型与大型语言模型的不同点： 1. 处理的信息类型不同：大型语言模型专注于文本，大型多模态模型能处理多种类型信息。 2. 应用场景不同：大型语言模型主要用于自然语言处理任务，大型多模态模型应用领域更广泛。 3. 数据需求不同：大型语言模型依赖大量文本数据训练，大型多模态模型需要多种类型数据训练。 此外，如果想了解国内的大模型效果，可以参考第三方基准评测报告： 。需注意，内容由 AI 大模型生成，请仔细甄别。
2024-11-19
能生成sql语句的ai模型或工具，能提供api调用的
以下是一些能生成 SQL 语句并提供 API 调用的 AI 模型或工具的相关信息： OpenAI 的 GPT 系列模型，如 gpt40613 和 gpt3.5turbo0613 ，可以通过函数调用及其他 API 更新，让开发人员向模型描述函数，并让模型智能地选择输出一个包含调用这些函数所需参数的 JSON 对象。但需要注意的是，为了让 ChatGPT 返回符合要求的 JSON 格式，prompt 的定制尤为重要和复杂。 在使用代码执行来进行更精确的计算或调用外部 API 时，不能依赖模型自行准确地执行算术或长计算。可以指示模型编写和运行代码，例如将代码放入三重反引号中。生成输出后，可以提取并运行代码。同时，模型在正确使用 API 的指导下，可以编写使用 API 的代码，但需要通过提供 API 文档或代码示例进行指导。 但需要注意的是，执行模型生成的代码存在安全风险，建议在安全的沙箱环境中运行代码，避免潜在危害。
2024-11-19
图说AI大模型？
以下是关于 AI 大模型的相关内容： 一、大模型的整体架构 1. 基础层：为大模型提供硬件支撑和数据支持，例如 A100、数据服务器等。 2. 数据层：包括静态的知识库和动态的三方数据集，这里的数据层并非用于基层模型训练的数据基集，而是企业根据自身特性维护的垂域数据。 3. 模型层：包括 LLm（大语言模型，例如 GPT，一般使用 transformer 算法实现）或多模态模型（如市面上的文生图、图生图等模型，训练所用数据与 llm 不同，为图文或声音等多模态的数据集）。 4. 平台层：例如大模型的评测体系或 langchain 平台等，是模型与应用间的组成部分。 5. 表现层：也就是应用层，是用户实际看到的地方。 二、再补充一些概念 AI Agent Agent 是从年前到现在比较火的概念，被很多人认为是大模型的未来主要发展方向。中间的“智能体”其实就是 llm 或大模型，四个箭头分别是为 llm 增加的工具、记忆、行动、规划四个能力。目前行业里主要用到的是 langchain 框架，它把 llm 之间以及 llm 和工具之间通过代码或 prompt 的形式进行串接。 三、必须理解的核心概念 1. 泛化能力：指模型在未曾见过的数据上表现良好的能力，用大白话讲就是“举一反三”的能力，人类泛化能力很强，无需见过世界上每一只猫就能认识猫的概念。 2. 多模态：指多数据类型交互，能提供更接近人类感知的场景，大模型对应的模态有文本、图像、音频、视频等。 3. 对齐能力：指与人类价值观与利益目标保持一致的能力。但目前阶段，有很多提示词注入的方法能绕过各种限制，这也开辟了大模型领域黑白对抗的新战场。
2024-11-19
文生图模型性能排行
以下是一些文生图模型的性能排行相关信息： Kolors 是最近开源的文生图模型中表现出色的一个。它具有更强的中文文本编码器、高质量的文本描述、人标的高质量图片、强大的中文渲染能力以及巧妙解决高分辨率图加噪问题的 noise schedule，实测效果不错。 PIKA1.0 是一个全新的模型，文生视频和文生图的质量都有大幅度提升。在文生图方面稳定得令人惊讶，3D 和 2D 的动画效果出色。 为全面比较 Kolors 与其他模型的生成能力，构建了包含人工评估、机器评估的全面评测内容。在 KolorsPrompts 评估集中，Kolors 在整体满意度方面处于最优水平，其中画面质量显著领先其他模型。具体的平均分数如下： AdobeFirefly：整体满意度平均分 3.03，画面质量平均分 3.46，图文相关性平均分 3.84。 Stable Diffusion 3：整体满意度平均分 3.26，画面质量平均分 3.5，图文相关性平均分 4.2。 DALLE 3：整体满意度平均分 3.32，画面质量平均分 3.54，图文相关性平均分 4.22。 Midjourneyv5：整体满意度平均分 3.32，画面质量平均分 3.68，图文相关性平均分 4.02。 Playgroundv2.5：整体满意度平均分 3.37，画面质量平均分 3.73，图文相关性平均分 4.04。 Midjourneyv6：整体满意度平均分 3.58，画面质量平均分 3.92，图文相关性平均分 4.18。 Kolors：整体满意度平均分 3.59，画面质量平均分 3.99，图文相关性平均分 4.17。所有模型结果取自 2024.04 的产品版本。
2024-11-18
认为如果我是一个大学生，想要通过大模型去参加项目什么样的方向会比较好我应该做一个怎样的大模型？
对于大学生想要通过大模型参加项目，以下是一些方向和相关知识： 大模型的概念： 通俗来讲，大模型是输入大量语料，让计算机获得类似人类的“思考”能力，能够进行文本生成、推理问答、对话、文档摘要等工作。可以用“上学参加工作”来类比大模型的训练和使用过程： 1. 找学校：训练大模型需要大量计算，GPU 更合适，只有有资本购买大量 GPU 的才有能力训练自己的大模型。 2. 确定教材：大模型需要大量的数据量，几千亿序列（Token）的输入基本是标配。 3. 找老师：即选择合适的算法让大模型更好地理解 Token 之间的关系。 4. 就业指导：为了让大模型更好地胜任某一行业，需要进行微调（fine tuning）指导。 5. 搬砖：就业指导完成后，进行如翻译、问答等工作，在大模型里称之为推导（infer）。Token 被视为模型处理和生成的文本单位，会对输入进行数字化形成词汇表。 大模型的训练： 一般训练会有 3 个步骤，每个步骤都需要资金投入。 1. 无监督学习：模型通过分析大量文本数据，学习语言的基本结构和常识，具备文本补齐能力而非直接回答问题，将人类的知识通过向量化的方法转换，从而获得基础的语言模型。 2. 清洗出好的数据。 3. 指令微调：模型被训练以理解并执行具体指令，如翻译文本，从而能够回答问题。输入内容包括 3 个部分，中间可能有分隔符。还有对齐过程，通过引入人类的评价标准和处理特定格式要求，进一步优化模型的输出以符合人类的期望。 大模型的微调： 在人工智能领域，通常会根据应用领域将大模型分为通用大模型和领域特定模型。通用大模型如 GPT4.0、GPT3.5 等，通过训练获得广泛的自然语言理解能力，但在特定领域表现可能不理想。微调是对大模型针对特定领域进行的训练过程，通过在特定领域的数据上训练模型，优化所有层的参数，提高其在该领域的专业性。从头开始训练一个具备自然语言处理能力的大模型需要大量时间和资源，小公司负担不起，微调可以在现有模型基础上更经济、高效地适应新的应用领域。
2024-11-18
flux lora 训练
以下是关于 Flux 的 Lora 模型训练的详细步骤： 准备工作： 下载所需模型：t5xxl_fp16.safetensors、clip_l.safetensors、ae.safetensors、flux1dev.safetensors。 注意：不使用时模型放置位置不限，只要知道“路径”，后续会引用到“路径”。 训练建议使用 flux1dev.safetensors 版本的模型和 t5xxl_fp16.safetensors 版本的编码器。 下载训练脚本： 夸克网盘链接：https://pan.quark.cn/s/ddf85bb2ac59 百度网盘链接：https://pan.baidu.com/s/1pBHPYpQxgTCcbsKYgBi_MQ?pwd=pfsq 提取码：pfsq 数据集准备： 进入厚德云模型训练数据集：https://portal.houdeyun.cn/sd/dataset 步骤一：创建数据集 在数据集一栏中，点击右上角创建数据集。 输入数据集名称。 可以上传包含图片+标签 txt 的 zip 文件，也可以上传只有图片的文件（之后可在 c 站使用自动打标功能），或者一张一张单独上传照片，但建议提前将图片和标签打包成 zip 上传。 Zip 文件里图片名称与标签文件应当匹配，例如：图片名“1.png”，对应的达标文件就叫“1.txt”。 上传 zip 以后等待一段时间，确认创建数据集，返回到上一个页面，等待一段时间后上传成功，可点击详情检查，预览数据集的图片以及对应的标签。 步骤二：Lora 训练 点击 Flux，基础模型会默认是 FLUX 1.0D 版本。 选择数据集，点击右侧箭头，会跳出所有上传过的数据集。 触发词可有可无，取决于数据集是否有触发词。 模型效果预览提示词则随机抽取一个数据集中的标签填入即可。 训练参数可以调节重复次数与训练轮数，厚德云会自动计算训练步数。如果不知道如何设置，可以默认 20 重复次数和 10 轮训练轮数。 可以按需求选择是否加速，点击开始训练，会显示所需要消耗的算力。 等待训练，会显示预览时间和进度条，训练完成会显示每一轮的预览图。 鼠标悬浮到想要的轮次模型，中间会有个生图，点击会自动跳转到使用此 lora 生图的界面。点击下方的下载按钮则会自动下载到本地。 数据集放置位置：.Flux_train_20.4\\train\\qinglong\\train 运行训练：约 1 2 小时即可训练完成。 验证和 lora 跑图：有 ComfyUI 基础的话，直接原版工作流的模型后面，多加一个 LoraloaderModelOnly 的节点就可以，自行选择您的 Lora 和调节参数。
2024-11-20
如何将历史写过的文章发给 Ai，训练生成写作风格
要将历史写过的文章发给 AI 以训练生成写作风格，可以参考以下步骤： 1. 首先，像安迪的做法一样，把过去写的多篇相关文章发给 AI。 2. 让 AI 总结这些文章的写作特点。 3. 根据 AI 总结的特点，编写出描述写作风格的提示词，从而克隆出自己的写作风格。 4. 未来使用这个风格时，先花 3 分钟时间让 AI 分别写多篇内容。 5. 从多篇内容中找到最符合心意的作品，并从其他作品中寻找好的段落。 6. 最后进行整合、修改、删减和润色，少则几分钟、十几分钟，多则半个小时就能完成一篇文章。 同时，就像夙愿提到的，找选题对于写作很重要。我们可以通过学习其他优秀公众号的文章，分析其选题思路、文章结构、表达方式等，不断训练自己的“写作模型”，但要注意不能照搬，而是要形成自己独特的风格。 另外，在写作过程中，“主体性”的介入也很关键。比如在使用 Prompt 生成公众号文章时，要先思考自己对写作的理解以及对特定主题写作风格的认知，这样写出来的 Prompt 才会有个人特色。日常也要注重基本功的积累，因为在表达“意象”时非常考验语言能力。
2024-11-18
如何用ai模型做训练
以下是关于如何用 AI 模型做训练的相关内容： 要在医疗保健领域让 AI 产生真正的改变，应投资创建像优秀医生和药物开发者那样学习的模型生态系统。成为顶尖人才通常从多年密集信息输入和学徒实践开始，AI 也应如此。当前的学习方式存在问题，应通过堆叠模型训练，如先训练生物学、化学模型，再添加特定数据点。就像预医学生从基础课程学起，设计新疗法的科学家经历多年学习和指导，这种方式能培养处理细微差别决策的直觉。 大模型的构建过程包括： 1. 收集海量数据：如同教孩子博学多才要让其阅读大量资料，对于 AI 模型要收集互联网上的各种文本数据。 2. 预处理数据：像为孩子整理适合的资料，AI 研究人员要清理和组织收集的数据，如删除垃圾信息、纠正拼写错误等。 3. 设计模型架构：为孩子设计学习计划，研究人员要设计 AI 模型的“大脑”结构，通常是复杂的神经网络，如 Transformer 架构。 4. 训练模型：像孩子开始学习，AI 模型开始“阅读”数据，通过反复预测句子中的下一个词等方式逐渐学会理解和生成人类语言。 为提高 AI 模型的鲁棒性，应对可能的“恶意”样本数据导致的幻觉，可使用对抗训练技术，让模型在训练中接触并学会识别和抵抗。
2024-11-13
怎么训练自己的小说大纲模型
训练自己的小说大纲模型可以参考以下步骤： 步骤一：创建数据集 1. 进入厚德云模型训练数据集，网址为：https://portal.houdeyun.cn/sd/dataset 。 2. 在数据集一栏中，点击右上角创建数据集。 3. 输入数据集名称。 4. 可以上传包含图片+标签的 zip 文件，也可以只有图片没有打标文件（之后可在 c 站使用自动打标功能）。 5. 也可以一张一张单独上传照片，但建议提前把图片和标签打包成 zip 上传。 6. Zip 文件里图片名称与标签文件应当匹配，例如：图片名“1.png”，对应的达标文件就叫“1.txt”。 7. 上传 zip 以后等待一段时间。 8. 确认创建数据集，返回到上一个页面，等待一段时间后上传成功，可以点击详情检查，可预览到数据集的图片以及对应的标签。 步骤二：Lora 训练 1. 点击 Flux，基础模型会默认是 FLUX 1.0D 版本。 2. 选择数据集，点击右侧箭头，会跳出所有上传过的数据集。 3. 触发词可有可无，取决于数据集是否有触发词。 4. 模型效果预览提示词则随机抽取一个数据集中的标签填入即可。 5. 训练参数这里可以调节重复次数与训练轮数，厚德云会自动计算训练步数。如果不知道如何设置，可以默认 20 重复次数和 10 轮训练轮数。 6. 可以按需求选择是否加速，点击开始训练，会显示所需要消耗的算力。 7. 然后等待训练，会显示预览时间和进度条。训练完成的会显示出每一轮的预览图。 8. 鼠标悬浮到想要的轮次模型，中间会有个生图，点击会自动跳转到使用此 lora 生图的界面。点击下方的下载按钮则会自动下载到本地。 步骤三：Lora 生图 1. 点击预览模型中间的生图会自动跳转到这个页面。 2. 模型上的数字代表模型强度，可以调节大小，正常默认为 0.8，建议在 0.6 1.0 之间调节。 3. 也可以自己添加 lora 文件，点击后会显示训练过的所有 lora 的所有轮次。 4. VAE 不需要替换。 5. 正向提示词输入写的提示词，可以选择基于这个提示词一次性生成几张图。 6. 选择生成图片的尺寸，横板、竖版、正方形。 7. 采样器和调度器新手小白可以默认不换。 8. 迭代步数可以按照需求在 20 30 之间调整。 9. CFG 可以按照需求在 3.5 7.5 之间调整。 10. 随机种子 1 代表随机生成图。 11. 所有设置都好了以后，点击开始生态，生成的图会显示在右侧。 12. 如果有哪次生成结果觉得很不错，想要微调或者高分辨率修复，可以点开那张图，往下滑，划到随机种子，复制下来，粘贴到随机种子这里，这样下次生成的图就会和这次的结果近似。 13. 如果确认了一张很合适的种子和参数，想要高清放大，则点开高清修复，可以选择想放大的倍数。新手小白可以就默认这个算法，迭代步数也是建议在 20 30 之间，重回幅度根据需求调整，正常来说在 0.3 0.7 之间调整。 今日作业 按照比赛要求，收集六个主题中一个主题的素材并且训练出 lora 模型后提交 lora 模型与案例图像。提交链接:https://waytoagi.feishu.cn/share/base/form/shrcnpJAtTjID7cIcNsWB79XMEd 。 另外，直接在 Comfy UI 中训练 LoRA 模型的步骤如下： 1. 确保后面有一个空格。然后将 requirements_win.txt 文件拖到命令提示符中（如果在 Windows 上；否则，选择另一个文件 requirements.txt）。拖动文件将在命令提示符中复制其路径。 2. 按 Enter 键，这将安装所有所需的依赖项，使其与 ComfyUI 兼容。请注意，如果为 Comfy 使用了虚拟环境，必须首先激活它。 3. 教程： 图像必须放在一个以命名的文件夹中。那个数字很重要：LoRA 脚本使用它来创建一些步骤（称为优化步骤…但别问我是什么^^’）。它应该很小，比如 5。然后，下划线是必须的。 对于 data_path，必须写入包含数据库文件夹的文件夹路径。例如：C:\\database\\5_myimages ，必须写 C:\\database 。 对于参数，在第一行，可以从 checkpoint 文件夹中选择任何模型。据说必须选择一个基本模型进行 LoRA 训练。但也可以尝试使用微调。
2024-11-12
AI训练师是什么职业
AI 训练师是一种新兴职业，其职责和工作内容因具体领域和应用场景而有所不同。 例如，在 AI 教育培训和商业应用方面，像星动 AI 联合创始人李先森所从事的工作，可能包括对学员进行 AI 相关知识和技能的培训，以及参与 AI 项目的测评和指导等。 在 AI 设计领域，AI 训练师可能需要负责 AI 风格的开发和调试工作，参与项目的整体风格和审美定义。根据产品需求完成风格渲染的研发、测试、配置和维护，熟练使用 StableDiffusion Web UI 等 AI 框架进行风格研发，负责 AI 模型（如 LoRA，Prompt/Prompt Sentence）的训练、参数调整以及性能优化，编写高质量的渲染记录文档，进行配置和模型训练质量控制，并为团队提供技术支持和指导，解决技术难题。 总之，AI 训练师需要具备相关的专业知识和技能，以帮助 AI 系统更好地学习和优化，从而实现各种应用目标。
2024-11-11
多轮对话训练中你如何训练模型掌握情感需求
在多轮对话训练中，让模型掌握情感需求可以通过以下几种方式： 1. 利用相关数据集进行训练，例如： Guanaco：地址为，是一个使用 SelfInstruct 的主要包含中日英德的多语言指令微调数据集。 chatgptcorpus：地址为，开源了由 ChatGPT3.5 生成的 300 万自问自答数据，包括多个领域，可用于训练大模型。 SmileConv：地址为，数据集通过 ChatGPT 改写真实的心理互助 QA 为多轮的心理健康支持多轮对话，含有 56k 个多轮对话，其对话主题、词汇和篇章语义更加丰富多样，更符合长程多轮对话的应用场景。 2. 在创建提示时采用结构化模式，为模型提供一些情感需求的示例，如： |输入|输出| ||| |一部制作精良且有趣的电影|积极的| |10 分钟后我睡着了|消极的| |电影还行|中性的| 然后单击页面右侧的提交按钮。该模型现在可为输入文本提供情绪。还可以保存新设计的提示。 3. 在多轮次对话中，定期总结关键信息，重申对话的目标和指令，有助于模型刷新记忆，确保准确把握对话的进展和要点。 4. 进行意图识别和分类，特别关注在单一模型或情境中处理多个小逻辑分支的情况。例如在客户服务场景中，快速确定用户提出咨询、投诉、建议等多种类型请求的意图，并分类到相应处理流程中。
2024-11-11