Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

什么是加载别人训练的qwen模型？

Answer

加载别人训练的 qwen 模型通常涉及以下步骤：

  1. 对于直接调用千问的某一个大模型，如“qwen-max”模型，在 COW 中需要更改 key 和 model。在 /root/chatgpt-on-wechat/文件夹下，打开 config.json 文件进行更改，并添加"dashscope_api_key"。获取 key 可参考视频教程或图文教程。同时，需要“实名认证”后，这些 key 才可以正常使用，若对话出现“Access to mode denied.Please make sure you are eligible for using the model.”的报错，可能是未实名认证，可点击去实名认证，或查看自己是否已认证。
  2. 部署大语言模型时，如下载 qwen2:0.5b 模型，对于不同的电脑系统操作有所不同。如果是 Windows 电脑，点击 win+R，输入 cmd 点击回车；如果是 Mac 电脑，按下 Command（⌘）+ Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。之后复制相关命令行并粘贴回车，等待自动下载完成。
  3. 对于 Ollama 大模型部分，为避免没下载大模型带来的报错，需要先下载 ollama，网站：Download Ollama on Windows 。其次，在llama3:8b-instruct-q4_K_M(ollama.com)网站中复制代码，然后像特定操作一样打开 ComfyUi 根目录下的 custom_nodes\ComfyUi-Ollama-YN 的文件路径，在上方的路径下输入 cmd，进入到下方的命令行，右键粘贴刚才的代码，等待下载即可。
Content generated by AI large model, please carefully verify (powered by aily)

References

「第一天」COW项目：千问模型、百炼应用接入教程

百炼首页：https://bailian.console.aliyun.com/1、当我们在COW中，去直接调用千问的某一个大模型时，只需要更改key和model即可。以调用“qwen-max”模型为例，在/root/chatgpt-on-wechat/文件夹下，打开config.json文件：需要更改"model"，和添加"dashscope_api_key"。那么如何去获取key呢：视频教程：file:模型调用教程.mp4图文教程：以下是参考配置：示意图：注意：需要“实名认证”后，这些key才可以正常使用，如果对话出现“ Access to mode denied.Please make sure you are eligible for using the model.”的报错，那说明你没有实名认证，点击去[实名认证](https://account.console.aliyun.com/v2?spm=5176.28508143.J_4VYgf18xNlTAyFFbOuOQe.13.38a9154amP8978#/authc/types)，或查看自己是否已认证。

张梦飞：【全网最细】从LLM大语言模型、知识库到微信机器人的全本地部署教程

一、下载并安装Ollama1、点击进入，根据你的电脑系统，下载Ollama：https://ollama.com/download2、下载完成后，双击打开，点击“Install”3、安装完成后，将下方地址复制进浏览器中。如果出现下方字样，表示安装完成http://127.0.0.1:11434/二、下载qwen2:0.5b模型（0.5b是为了方便测试，下载快，自己设备充足的话，可以下载更大的模型）1、如果你是windows电脑，点击win+R输入cmd，点击回车如果你是Mac电脑，按下Command（⌘）+ Space键打开Spotlight搜索。输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。2、复制以下命令行，粘贴进入，点击回车：3、回车后，会开始自动下载，等待完成（这里下载久了，可能会发现卡着不动，不知道下载了多少了。鼠标点击一下窗口，键盘点空格，就会刷新了）4、下载完成后你会发现，大模型已经在本地运行了。输入文本即可进行对话。

4-SeasonYou 工作流 副本

[title]4-SeasonYou工作流副本[heading2]一、加载模型部分（总文件有）(MaxRetryError('HTTPSConnectionPool(host=\'huggingface.co\',port=443):Max retries exceeded with url:/QuanSun/EVA-CLIP/resolve/main/EVA02_CLIP_L_336_psz14_s6B.pt(Caused by SSLError(CertificateError("hostname \'huggingface.co\' doesn\'t match either of \'*.extern.facebook.com\',\'extern.facebook.com\'")))'),'(Request ID:05b932bd-e982-434e-8dc7-e41cca2e949f)')⑧Ollama大模型部分，为了应对没下载大模型带来的报错，因此需要下载大模型首先，下载ollama，网站：[Download Ollama on Windows](https://ollama.com/download)其次，在[llama3:8b-instruct-q4_K_M(](https://ollama.com/library/llama3:8b-instruct-q4_K_M)[ollama.com](https://ollama.com/library/llama3:8b-instruct-q4_K_M)[)](https://ollama.com/library/llama3:8b-instruct-q4_K_M)网站中，复制代码如红框：然后，像我建议一样打开ComfyUi根目录下的custom_nodes\ComfyUi-Ollama-YN的文件路径，在上方的路径下输入cmd：进入到下方的命令行，右键即可粘贴刚才的代码，等待下载即可：⑨instanid部分：

Others are asking
Qwen 2.5 max 如何访问
Qwen 2.5 Max 可以通过以下方式访问： 1. 目前，Qwen 2.5 Max 已在阿里云百炼平台上架，模型名称为 qwenmax20250125，企业和开发者都可通过阿里云百炼调用新模型 API。 2. 同时，也可以在全新的 Qwen Chat（https://chat.qwenlm.ai/）平台上使用 Qwen 2.5 Max，直接与模型对话，或者使用 artifacts、搜索等功能。 此外，您还可以通过以下链接获取更多相关信息：
2025-02-13
我想利用现有的20万条政务相关数据，基于qwen2.5 70B大模型构建自己的政务服务大模型，该如何做，请给出具体实现流程，谢谢！
以下是基于 qwen2.5 70B 大模型利用 20 万条政务相关数据构建政务服务大模型的大致流程： 1. 数据准备：对 20 万条政务相关数据进行清洗、预处理和标注，使其适合模型学习。 2. 模型选择与下载：选择 qwen2.5 70B 大模型，并按照相关说明进行下载。 3. 本地部署： 启动 OpenAI 兼容的 API 服务，根据硬件配置设置相关参数，如 tensorparallelsize（设置使用的 GPU 数量）、maxmodellen（定义最大输入序列长度）、maxnumbatchedtokens（设置 Chunked Prefill 的块大小）、maxnumseqs（限制并发处理的序列数量）。 遇到问题可参考相关内容。 4. 与模型交互：可以使用 Curl 或 Python 等方法与部署的模型进行交互，对于更高级的使用方式，可以探索如之类的框架。 5. 模型训练：模型训练是一个复杂且计算量极大的过程，需要大量的计算资源和时间。 需要注意的是，构建大模型是一个复杂的任务，需要具备一定的技术知识和经验。在实际操作中，可能会遇到各种问题，需要不断调试和优化。
2025-02-06
qwen2.5-max如何安装
Qwen2.5Max 的安装方式如下： 目前，Qwen2.5Max 已在阿里云百炼平台上架，模型名称为 qwenmax20250125，企业和开发者都可通过阿里云百炼调用新模型 API。同时，也可以在全新的 Qwen Chat（https://chat.qwenlm.ai/）平台上使用 Qwen2.5Max，直接与模型对话，或者使用 artifacts、搜索等功能。 相关链接：
2025-01-30
怎么调用qwen？
要调用 qwen ，有以下几种情况和步骤： 1. 调用百炼“应用”： 创建一个百炼应用，假设命名为“苏苏”。 在/root/chatgptonwechat/文件夹下，打开config.json文件。 更改"model":"qwen"，并添加"qwen_access_key_id"、"qwen_access_key_secret"、"qwen_agent_key"、"qwen_app_id"四项配置。 配置项获取可参考视频教程： 图文教程及参考配置也有提供。 注意：需要“实名认证”后，这些key才可以正常使用，如果对话出现“Access to mode denied.Please make sure you are eligible for using the model.”的报错，那说明您没有实名认证，点击去，或查看自己是否已认证。 2. 直接调用大模型： 百炼首页：https://bailian.console.aliyun.com/ 在/root/chatgptonwechat/文件夹下，打开config.json文件。 以调用“qwenmax”模型为例，需要更改"model"，和添加"dashscope_api_key"。 获取 key 可参考视频教程： 图文教程及参考配置也有提供。 注意：需要“实名认证”后，这些key才可以正常使用，如果对话出现“Access to mode denied.Please make sure you are eligible for using the model.”的报错，那说明您没有实名认证，点击去，或查看自己是否已认证。 3. 创建知识库应用并调用： 地址输入浏览器：http://这里替换为您宝塔左上角的那一串:3000/ 进入后，点击应用并创建，选择 qwen 模型。 创建知识库。点击知识库 选择 qwen Embedding 1 点击确认创建。 上传文件，等待处理，最后文本状态是“已就绪”。 回到刚刚创建的应用，关联上创建的知识库。 点击两个发布。之前第一个叫做保存。 点击新建，创建 key。创建后保存同时将 API 根地址最后加上/v1 也保存下来。 回到宝塔，打开【终端】 依次粘贴并回车：cd/root git clone https://github.com/zhayujie/chatgptonwechat cd chatgptonwechat/ pip install r requirements.txt pip install r requirementsoptional.txt 等待执行完成。 到“文件”菜单中去执行，点击文件 找到 root，进入 root 文件夹，找到 chatgptonwechat 文件夹，并进入。
2025-01-20
docker部署qwen
以下是关于 Docker 部署相关问题的综合回答： 容器编排模板： 容器编排模板是一种配置文件，用于在 Docker 中部署和管理多个容器，可一键部署复杂环境，无需手动配置细节，如配置 COW 组件与微信和极简未来平台交互。 使用 Docker 部署 COW 组件的原因： Docker 提供隔离运行环境，确保应用在任何环境稳定运行，简化安装和配置过程，保证环境一致，便于管理和维护。 配置多个前缀触发机器人回复的原因： 配置如“bot”、“@bot”等多个前缀，能确保机器人只在特定情况回复，避免群聊或私聊中频繁干扰，提高响应准确性和用户体验。 扫码登录失败的解决办法： 1. 重启 Docker 容器：在宝塔面板中找到对应容器，点击“重启”。 2. 检查网络连接：确保服务器和微信客户端能正常访问互联网。 3. 重新扫描二维码：等待容器重启后，重新扫描日志中生成的二维码。 费用相关： 使用 AI 微信聊天机器人的费用实际上不高，极简未来平台按使用量收费，对一般用户费用相对低廉，充值少量费用通常可用很长时间，且平台提供每天签到免费领积分福利，进一步降低使用成本。使用极简未来平台创建 AI 机器人的具体费用未明确给出。
2024-10-20
qwen大语言模型有视觉模式吗？
Qwen 大语言模型具有视觉模式。以下是相关信息： 有博主称 QwenVL 已迁移到 ComfyUI 中，它支持本地图像、上下文窗口多轮对话，支持 PLUS 和 MAX 双视觉模型，支持百万像素、任意规格图像，具有超强细节和文字识别能力，在开源领域表现出色，中文能力突出，目前 API 免费开放。 关于部署 Qwen 大语言模型，如在 Windows 电脑上，可点击 win+R，输入 cmd 回车；在 Mac 电脑上，按下 Command（⌘）+ Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”选择“终端”应用程序，然后复制相关命令行粘贴回车进行下载。
2024-10-11
帮我写一个可以训练的分类器代码， python 代码，目的是将样本的扰动分为 0，0.001，0.003，0.005 四类，按照以下步骤写 第一步：导入需要的库 第二步：加载位于/public/xdw/ls/signaldefense/AS/perturbed_data.npy 的数据 第三步：获取数据样本的扰动值 第四步：判断扰动值的大小，比如扰动值为 0，则加一计数 第五步：打印出判断各类扰动值的正确率
以下是为您生成的 Python 代码示例，用于实现将样本的扰动分为 0、0.001、0.003、0.005 四类的分类器： ```python import numpy as np 第一步：导入需要的库 import numpy as np 第二步：加载数据 data = np.load 第三步：获取数据样本的扰动值 perturbation_values = data 假设扰动值在第二列 第四步：判断扰动值的大小并计数 count_0 = 0 count_0_001 = 0 count_0_003 = 0 count_0_005 = 0 for value in perturbation_values: if value == 0: count_0 += 1 elif value == 0.001: count_0_001 += 1 elif value == 0.003: count_0_003 += 1 elif value == 0.005: count_0_005 += 1 第五步：计算正确率 total_samples = len accuracy_0 = count_0 / total_samples accuracy_0_001 = count_0_001 / total_samples accuracy_0_003 = count_0_003 / total_samples accuracy_0_005 = count_0_005 / total_samples print print print print ```
2024-12-05
如何用langchian加载本地模型
要使用 Langchain 加载本地模型，您可以按照以下步骤进行： 1. 加载所需的库和模块，例如 feedparse 用于解析 RSS 订阅源，ollama 用于在 Python 程序中跑大模型。使用 ollama 前请确保服务已经开启并下载好模型。 2. 从订阅源获取内容，通过特定函数从指定的 RSS 订阅 URL 提取内容，若需接收多个 URL 稍作改动即可。然后使用专门的文本拆分器将长文本拆分成较小的块，并附带相关元数据，如标题、发布日期和链接，最终将这些文档合并成一个列表用于后续处理。 3. 为文档内容生成向量，使用文本向量模型 bgem3。从 hf 下载好模型后，假设放置在某个路径 /path/to/bgem3，通过函数利用 FAISS 创建高效的向量存储。 在整个过程中，还需要了解以下相关知识： 1. RAG（Retrieval Augmented Generation）：大模型训练数据有截止日期，当需要依靠不在训练集中的数据时，可通过检索增强生成。RAG 应用包括文档加载（从多种来源加载文档，LangChain 提供 100 多种文档加载器）、文本分割（把文档切分为指定大小的块）、存储（将切分好的文档块嵌入并存储到向量数据库）、检索（通过检索算法找到与输入问题相似的嵌入片）、输出（把问题及检索出的嵌入片提交给 LLM 生成答案）。 2. Ollama：支持多种大型语言模型，包括通义千问、Llama 2、Mistral 和 Gemma 等，易于使用，适用于 macOS、Windows 和 Linux 系统，支持 cpu 和 gpu，提供模型库，用户可下载不同模型，还支持自定义模型、提供 REST API 用于运行和管理模型及与其他应用程序集成，社区贡献丰富。安装完后确保后台服务已启动，可通过 ollama list 确认，通过 ollama 命令下载模型。
2024-11-23
SD大模型无法加载
SD 大模型无法加载可能有以下原因及解决方法： 1. LORA 方面： LORA 可以提炼图片特征，文件通常有几十上百兆，承载信息量远大于 Embedding。下载的 LORA 放在根目录的【……\\models\\Lora】文件夹下，使用时点击红色小书，找到 LORA 选项卡加载。 使用 LORA 时要注意看作者使用的大模型，一般需配套使用，还可能需要加入特定触发词，如盲盒 LORA 需加入“full body, chibi”等提示词。 2. Hypernetworks 方面： Hypernetworks 主要针对画风训练，文件下载后放在根目录的【…\\models\\hypernetworks】，使用时点击红色小书，找到 Hypernetworks 选项卡加载。 3. 模型下载与安装方面： 常用的模型下载网站有：。 下载模型后需放置在指定目录，大模型（Ckpt）放入【models\\Stablediffusion】，VAE 模型放入【models\\Stablediffusion】或【models\\VAE】目录（有的大模型自带 VAE 则无需再加），Lora/LoHA/LoCon 模型放入【extensions\\sdwebuiadditionalnetworks\\models\\lora】或【models/Lora】目录，Embedding 模型放入【embeddings】目录。模型类型可通过检测。 不会科学上网时，可在启动器界面直接下载模型，将下载的大模型放在根目录的【……\\models\\Stablediffusion】，在左上角模型列表中选择（看不到就点旁边蓝色按钮刷新）。 旁边的 VAE 相当于给模型增加提高饱和度的滤镜和局部细节微调，可在启动器里下载，放在根目录的【……\\models\\VAE】。 Embedding 功能相当于提示词打包，下载 Embedding 可在 C 站通过右上角筛选 Textual Inversion 找到，放在根目录下的【embeddings】文件夹里。 由于无法确定您大模型无法加载的具体原因，您可以根据上述内容逐一排查。
2024-11-12
知道源代码就可以加载AI吗？
一般来说，仅仅知道源代码并不一定能够直接加载 AI 。以 GPT4 的代码解释器为例，它是一种特定的模式，允许用户将文件上传到 AI，让 AI 编写和运行代码，并下载 AI 提供的结果。它可以用于执行程序、运行数据分析、创建各种文件、网页甚至游戏。但使用代码解释器进行分析存在未经培训的人使用的风险，许多测试专家对此印象深刻，甚至有论文表明它可能需要改变培训数据科学家的方式。如果您想了解更多关于如何使用它的详细信息，可以访问相关帖子。
2024-10-01
怎么加载开源模型？
加载开源模型的步骤如下： 1. 下载相关模型节省时间： Base Model DreamShaper XL Turbo: https://civitai.com/models/112902/dreamshaperxl LoRA：Envy Anime Watercolor XL 03：https://civitai.com/models/382684/envyanimewatercolorxl03 Alphonse Mucha Style：https://civitai.com/models/63072/alphonsemuchastyle 2. 打开以下链接放在后台： Ollama: https://ollama.com/ https://github.com/stavsap/comfyuiollama IPAdapter：https://github.com/cubiq/ComfyUI_IPAdapter_plus InstantID: https://github.com/cubiq/ComfyUI_InstantID PuLID：https://github.com/cubiq/PuLID_ComfyUI 3. 安装缺失节点： 下载过程中若发现 layer style 下不了，可重启重新下载，尝试修复。若仍不行，从官网重新下载到./custom_nodes 的文件夹下。 4. 从官网下载两个文件，点击左上角部分将加载器展开并选择官网下载好的两个模型。 5. 对于 GDino 加载器部分，在链接：处下载相关文件，然后检查文件是否齐全。对于 groundingdino 和 sams 配置是否齐全可以使用“抠头发.json”来检验。 6. Ollama 大模型部分： 首先，下载 ollama，网站： 其次，在网站中，复制代码。然后，打开 ComfyUi 根目录下的 custom_nodes\\ComfyUiOllamaYN 的文件路径，在上方的路径下输入 cmd，进入到命令行，右键粘贴刚才的代码，等待下载。
2024-10-01
controlnet一直加载怎么办
ControlNet 一直加载可能由以下原因导致及对应的解决方法： 1. 模型版本问题：确保 checkpoint、ContalNet 等所有需要加载模型的版本均基于 SD1.5，否则可能会报“超出索引”的错误。 2. 节点未安装完全：载入工作流后若出现爆红部分，可能是节点没下好、没下全。此时可以先全部更新，让所缺节点“显露出来”，然后安装好缺失的节点。 3. 参数设置问题：假如右下角的区域报红，那么就得根据报错信息相应调整一下左上角蓝色区域的 h、w 参数。 此外，ControlNet 还有一些新的功能和应用，例如： 1. 1.1 版本新出的 lineart 线稿提取功能，可先通过 invert 预处理将白底黑线处理成黑底白线，然后切换到 lineart 预处理器和模型进行生成。 2. mlsd 直线线条检测功能，一般用在建筑或者室内设计上，预处理器可提炼出室内的结构线。 ComfyUI 中的 ControlNet 高级控件： 在时间步和批处理潜变量之间调度 ControlNet 强度的节点，以及应用自定义权重和注意力掩码。这里的 ControlNet 节点完全支持滑动上下文采样。输入包括 positive（提示词（正面））、negative（提示词（负面））、control_net（加载了控制网络）、image（用于指导控制网络的图像）、mask_optional（应用于控制网络的注意力掩码）、timestep_kf（时间步关键帧）、latent_kf_override（潜在关键帧的覆盖）。
2024-08-29
怎么用大模型构建一个属于我自己的助手
以下是用大模型构建属于自己的助手的几种方法： 1. 在网站上构建： 创建百炼应用获取大模型推理 API 服务： 进入百炼控制台的，在页面右侧点击新增应用，选择智能体应用并创建。 在应用设置页面，模型选择通义千问Plus，其他参数保持默认，也可以输入一些 Prompt 来设置人设。 在页面右侧提问验证模型效果，点击右上角的发布。 获取调用 API 所需的凭证： 在我的应用>应用列表中查看所有百炼应用 ID 并保存到本地。 在顶部导航栏右侧，点击人型图标，点击 APIKEY 进入我的 APIKEY 页面，创建新 APIKEY 并保存到本地。 2. 微信助手构建： 搭建，用于汇聚整合多种大模型接口，并获取白嫖大模型接口的方法。 搭建，作为知识库问答系统，将大模型接入用于回答问题，若不接入微信，搭建完成即可使用其问答界面。 搭建接入微信，配置 FastGpt 将知识库问答系统接入微信，建议先用小号以防封禁风险。 3. 基于 COW 框架构建： COW 是基于大模型搭建的 Chat 机器人框架，可将多模型塞进微信。 基于张梦飞同学的更适合小白的使用教程：。 实现功能包括打造属于自己的 ChatBot（文本对话、文件总结、链接访问、联网搜索、图片识别、AI 画图等）、常用开源插件的安装应用。 注意事项： 微信端因非常规使用有封号危险，不建议主力微信号接入。 只探讨操作步骤，请依法合规使用。 大模型生成的内容注意甄别，确保操作符合法律法规要求。 禁止用于非法目的，处理敏感或个人隐私数据时注意脱敏，以防滥用或泄露。 支持多平台接入，如微信、企业微信、公众号、飞书、钉钉等。 支持多模型选择，如 GPT3.5/GPT4.0/Claude/文心一言/讯飞星火/通义千问/Gemini/GLM4/LinkAI 等。 支持多消息类型，能处理文本、语音和图片，以及基于自有知识库进行定制的企业智能客服功能。 支持多部署方法，如本地运行、服务器运行、Docker 的方式。
2025-02-17
怎么用大模型构建一个属于我自己的助手
以下是用大模型构建属于自己的助手的几种方法： 1. 在网站上构建： 创建百炼应用获取大模型推理 API 服务： 进入百炼控制台的，在页面右侧点击新增应用，选择智能体应用并创建。 在应用设置页面，模型选择通义千问Plus，其他参数保持默认，也可以输入一些 Prompt 来设置人设。 在页面右侧提问验证模型效果，点击右上角的发布。 获取调用 API 所需的凭证： 在我的应用>应用列表中查看所有百炼应用 ID 并保存到本地。 在顶部导航栏右侧，点击人型图标，点击 APIKEY 进入我的 APIKEY 页面，创建新 APIKEY 并保存到本地。 2. 微信助手构建： 搭建，用于汇聚整合多种大模型接口，并获取白嫖大模型接口的方法。 搭建，作为知识库问答系统，将大模型接入用于回答问题，若不接入微信，搭建完成即可使用其问答界面。 搭建接入微信，配置 FastGpt 将知识库问答系统接入微信，建议先用小号以防封禁风险。 3. 基于 COW 框架构建： COW 是基于大模型搭建的 Chat 机器人框架，可将多模型塞进微信。 基于张梦飞同学的更适合小白的使用教程：。 实现功能包括打造属于自己的 ChatBot（文本对话、文件总结、链接访问、联网搜索、图片识别、AI 画图等）、常用开源插件的安装应用。 注意事项： 微信端因非常规使用有封号危险，不建议主力微信号接入。 只探讨操作步骤，请依法合规使用。 大模型生成的内容注意甄别，确保操作符合法律法规要求。 禁止用于非法目的，处理敏感或个人隐私数据时注意脱敏，以防滥用或泄露。 支持多平台接入，如微信、企业微信、公众号、飞书、钉钉等。 支持多模型选择，如 GPT3.5/GPT4.0/Claude/文心一言/讯飞星火/通义千问/Gemini/GLM4/LinkAI 等。 支持多消息类型，能处理文本、语音和图片，以及基于自有知识库进行定制的企业智能客服功能。 支持多部署方法，如本地运行、服务器运行、Docker 的方式。
2025-02-17
语文教学如何使用大模型
在语文教学中使用大模型，可以参考以下方面： 1. 提示词设置： Temperature：参数值越小，模型返回结果越确定；调高参数值，可能带来更随机、多样化或具创造性的产出。对于质量保障等任务，可设置低参数值；对于诗歌生成等创造性任务，可适当调高。 Top_p：与 Temperature 类似，用于控制模型返回结果的真实性。需要准确答案时调低参数值，想要更多样化答案时调高。一般改变其中一个参数即可。 Max Length：通过调整控制大模型生成的 token 数，有助于防止生成冗长或不相关的响应并控制成本。 Stop Sequences：指定字符串来阻止模型生成 token，控制响应长度和结构。 Frequency Penalty：对下一个生成的 token 进行惩罚，减少响应中单词的重复。 2. 了解大模型： 大模型通俗来讲是输入大量语料，让计算机获得类似人类的“思考”能力，能进行文本生成、推理问答、对话、文档摘要等工作。 训练和使用大模型可类比上学参加工作：找学校（需要大量 GPU 计算）、确定教材（大量数据）、找老师（算法）、就业指导（微调）、搬砖（推导）。 Token 是模型处理和生成的文本单位，在将输入进行分词时会形成词汇表。 需要注意的是，在实际应用中，可能需要根据具体的教学需求和场景进行调整和实验，以找到最适合的设置和方法。
2025-02-17
如何利用大模型写教案
利用大模型写教案可以参考以下要点： 1. 输入的重要性：要输出优质的教案，首先要有高质量的输入。例如，写商业分析相关的教案，如果没有读过相关权威书籍，输入的信息缺乏信息量和核心概念，大模型给出的结果可能就很平庸。所以，脑海中先要有相关的知识概念，这来自于广泛的阅读和学习。 2. 对大模型的理解：大模型通过输入大量语料获得类似人类的“思考”能力，能够进行文本生成、推理问答、对话、文档摘要等工作。其训练和使用过程可以类比为上学参加工作，包括找学校（需要大量计算资源）、确定教材（大量数据）、找老师（合适的算法）、就业指导（微调）、搬砖（推导）等步骤。 3. 与大模型的交互： 提示词工程并非必须学习，不断尝试与大模型交互是最佳方法。 交互时不需要遵循固定规则，重点是是否达成目的，未达成可锲而不舍地尝试或更换模型。 用 Markdown 格式清晰表达问题，它具有结构清晰、能格式化强调关键部分、适用性广等优点，有助于大模型更好地理解用户意图。
2025-02-17
大模型评测
以下是关于大模型评测的相关信息： FlagEval（天秤）大模型评测体系及开放平台： 地址： 简介：旨在建立科学、公正、开放的评测基准、方法、工具集，协助研究人员全方位评估基础模型及训练算法的性能，同时探索利用 AI 方法实现对主观评测的辅助，大幅提升评测的效率和客观性。创新构建了“能力任务指标”三维评测框架，细粒度刻画基础模型的认知能力边界，可视化呈现评测结果。 CEval：构造中文大模型的知识评估基准： 地址： 简介：构造了一个覆盖人文，社科，理工，其他专业四个大方向，52 个学科（微积分，线代…），从中学到大学研究生以及职业考试，一共 13948 道题目的中文知识和推理型测试集。此外还给出了当前主流中文 LLM 的评测结果。 SuperCLUElyb：SuperCLUE 琅琊榜 地址： 简介：中文通用大模型匿名对战评价基准，这是一个中文通用大模型对战评价基准，它以众包的方式提供匿名、随机的对战。他们发布了初步的结果和基于 Elo 评级系统的排行榜。 此外，还有小七姐对文心一言 4.0、智谱清言、KimiChat 的小样本测评，测评机制包括： 测评目标：测评三家国产大模型，以同组提示词下 ChatGPT 4.0 生成的内容做对标参照。 能力考量：复杂提示词理解和执行（结构化提示词）、推理能力（CoT 表现）、文本生成能力（写作要求执行）、提示词设计能力（让模型设计提示词）、长文本归纳总结能力（论文阅读）。 测评轮次：第一轮是复杂提示词理解和执行，包括 Markdown+英文 title 提示词测试、Markdown+中文 title 提示词测试、中文 title+自然段落提示词测试；第二轮是推理能力（CoT 表现）；第三轮是文本生成能力（写作要求执行）；第四轮是提示词设计能力（让模型设计提示词）；第五轮是长文本归纳总结能力（论文阅读）。 测试大模型质量好坏时，常用的问题包括检索和归纳、推理性、有日期相关历史事件等。以下是几个专业做模型测评的网站：
2025-02-17
ai大模型
AI 大模型是一个复杂但重要的概念。以下为您详细介绍： 1. 概念：生成式 AI 生成的内容称为 AIGC。 2. 概念与关系： AI 即人工智能。 机器学习是电脑找规律学习，包括监督学习、无监督学习、强化学习。 监督学习使用有标签的训练数据，目标是学习输入和输出之间的映射关系，包括分类和回归。 无监督学习的数据没有标签，算法自主发现规律，经典任务如聚类。 强化学习从反馈中学习，以最大化奖励或最小化损失，类似训小狗。 深度学习是一种参照人脑有神经网络和神经元的方法（因层数多而称深度），神经网络可用于监督学习、无监督学习、强化学习。 生成式 AI 可以生成文本、图片、音频、视频等内容形式。 LLM 是大语言模型，对于生成式 AI，生成图像的扩散模型不是大语言模型；对于大语言模型，生成只是其中一个处理任务，如谷歌的 BERT 模型可用于语义理解（不擅长文本生成），像上下文理解、情感分析、文本分类。 3. 技术里程碑：2017 年 6 月，谷歌团队发表论文《Attention is All You Need》，首次提出 Transformer 模型，它完全基于自注意力机制处理序列数据，不依赖循环神经网络或卷积神经网络。
2025-02-17
flux lora训练
以下是关于 Flux 的 Lora 模型训练的详细步骤： 模型准备： 1. 下载所需模型：t5xxl_fp16.safetensors、clip_l.safetensors、ae.safetensors、flux1dev.safetensors。 注意：不使用时存放位置不限，只要知晓路径即可。训练时建议使用 flux1dev.safetensors 版本的模型和 t5xxl_fp16.safetensors 版本的编码器。 下载脚本： 1. 网盘链接： 夸克网盘链接：https://pan.quark.cn/s/ddf85bb2ac59 百度网盘链接：https://pan.baidu.com/s/1pBHPYpQxgTCcbsKYgBi_MQ?pwd=pfsq 提取码：pfsq 安装虚拟环境： 1. 下载完脚本并解压。 2. 在文件中找到 installcnqinglong.ps1 文件，右键选择“使用 PowerShell 运行”。 3. 新手在此点击“Y”，然后等待 1 2 小时的下载过程。下载完成后会提示是否下载 hunyuan 模型，选择“n”不用下载。 数据集准备： 1. 进入厚德云 模型训练 数据集：https://portal.houdeyun.cn/sd/dataset 2. 创建数据集：在数据集一栏中，点击右上角创建数据集，输入数据集名称。 可以上传包含图片 + 标签 txt 的 zip 文件，也可以上传只有图片的文件（之后可在 c 站使用自动打标功能），或者一张一张单独上传照片。建议提前将图片和标签打包成 zip 上传，Zip 文件里图片名称与标签文件应当匹配，例如：图片名“1.png”，对应的达标文件就叫“1.txt”。 上传 zip 以后等待一段时间，确认创建数据集。返回到上一个页面，等待一段时间后上传成功，可以点击详情检查，可预览到数据集的图片以及对应的标签。 Lora 训练： 1. 点击 Flux，基础模型会默认是 FLUX 1.0D 版本。 2. 选择数据集，点击右侧箭头，会跳出所有上传过的数据集。 3. 触发词可有可无，取决于数据集是否有触发词。模型效果预览提示词则随机抽取一个数据集中的标签填入即可。 4. 训练参数这里可以调节重复次数与训练轮数，厚德云会自动计算训练步数。如果不知道如何设置，可以默认 20 重复次数和 10 轮训练轮数。 5. 可以按需求选择是否加速，点击开始训练，会显示所需要消耗的算力。 6. 等待训练，会显示预览时间和进度条。训练完成会显示每一轮的预览图。鼠标悬浮到想要的轮次模型，中间会有个生图，点击会自动跳转到使用此 lora 生图的界面。点击下方的下载按钮则会自动下载到本地。 数据集存放位置：.Flux_train_20.4\\train\\qinglong\\train 运行训练：约 1 2 小时即可训练完成。 验证和 lora 跑图：有 ComfyUI 基础的话，直接在原版工作流的模型后面，多加一个 LoraloaderModelOnly 的节点就可以，自行选择您的 Lora 和调节参数。
2025-02-17
LLM 训练推理模型有哪些
以下是一些常见的 LLM 训练推理模型： 1. FengshenbangLM： 地址： 简介：是 IDEA 研究院认知计算与自然语言研究中心主导的大模型开源体系，开源了姜子牙通用大模型 V1，是基于 LLaMa 的 130 亿参数的大规模预训练模型，具备翻译、编程、文本分类、信息抽取、摘要、文案生成、常识问答和数学计算等能力。除姜子牙系列模型之外，还开源了太乙、二郎神系列等模型。 2. BiLLa： 地址： 简介：开源了推理能力增强的中英双语 LLaMA 模型。较大提升 LLaMA 的中文理解能力，并尽可能减少对原始 LLaMA 英文能力的损伤；训练过程增加较多的任务型数据，利用 ChatGPT 生成解析，强化模型理解任务求解逻辑；全量参数更新，追求更好的生成效果。 3. Moss： 地址： 简介：支持中英双语和多种插件的开源对话语言模型，MOSS 基座语言模型在约七千亿中英文以及代码单词上预训练得到，后续经过对话指令微调、插件增强学习和人类偏好训练具备多轮对话能力及使用多种插件的能力。 此外，Andrej Karpathy 的相关介绍中提到了 LLM 训练的一些情况，如训练过程涉及大约 10TB 的文本，通常来源于互联网的抓取，需要大量的互联网资源和一个 GPU 集群，费用大约 200 万美元。Karpathy 的视频还详细介绍了 LLM 训练的全部过程，包括预训练、有监督微调和强化学习等。
2025-02-16
RVC声音模型训练
RVC 声音模型训练是将输入音频转换为训练的声音，即变声。它对训练素材量级要求较高，最少需要 20 分钟的素材才能达到理想效果，并且可以选择是否关联音高，以区分说话和唱歌两个不同场景。 在节目《马上封喉》中，负责马季老师语音生成部分的人员提到，AI 语音主要涉及 TTS（文本转语音）和 RVC 两项技术。此次的 AI 马季主要以 gptsovits 为主。 在 AI 春晚《西游不能停》的创作过程中，尝试了用 RVC 进行 vocal 变声的两种办法，但效果均不理想。第一种方法是训练声音模型后直接变声，存在变声后 AI 味儿太重、丢失原有强调的问题；第二种方法是训练声音模型，自己录 rap 后再变声，但需要在录音时尽量模仿还原出特点和感觉，这涉及到专业配音技巧，超出了能力范围。此外，八戒和沙僧声音的训练文件丢失，效果也不理想。
2025-02-13
怎么训练适合自己的ai智能体
要训练适合自己的 AI 智能体，您可以参考以下内容： 1. 了解智能体的发展历程：智能体大多建立在大模型之上，从基于符号推理的专家系统逐步演进而来。 2. 认识智能体的特点：具有强大的学习能力、灵活性和泛化能力，能通过大量数据学习，适应不同任务和环境，将知识泛化到新情境。 3. 掌握核心要点：智能体的核心在于有效控制和利用大型模型，提示词设计直接影响智能体的表现和输出结果。 4. 实践操作： 基于公开的大模型应用产品（如 Chat GLM、Chat GPT、Kimi 等）尝试开发。 点击“浏览 GPTs”按钮和“Create”按钮创建自己的智能体。 使用自然语言对话或手工设置进行具体操作。 开始调试智能体并发布。 5. 在正式项目中部署 AI 智能体的建议： 先尝试使用提示，无法满足需求再考虑微调。 编写并测试提示，以其作为微调基线。 关注数据质量，必要时修正问题数据。 用真实场景数据微调，保留测试集。 选择适当的模型规模，设立快速评估指标。 执行完整评估，持续优化，灵活应变。
2025-02-12
大模型是怎么训练的
大模型的训练过程可以类比为“上学参加工作”： 1. 找学校：训练大模型需要大量的计算，因此 GPU 更合适，只有购买得起大量 GPU 的才有资本训练自己的大模型。 2. 确定教材：大模型需要大量的数据量，几千亿序列（Token）的输入基本是标配。 3. 找老师：即用合适的算法讲述“书本”中的内容，让大模型能够更好理解 Token 之间的关系。 4. 就业指导：学完书本中的知识后，为了让大模型能够更好胜任某一行业，需要进行微调（fine tuning）指导。 5. 搬砖：就业指导完成后，就要正式干活了，比如进行一次翻译、问答等，在大模型里称之为推导（infer）。 在 LLM 中，Token 被视为模型处理和生成的文本单位。它们可以代表单个字符、单词、子单词，甚至更大的语言单位，具体取决于所使用的分词方法（Tokenization）。Token 是原始文本数据与 LLM 可以使用的数字表示之间的桥梁。在将输入进行分词时，会对其进行数字化，形成一个词汇表。比如：The cat sat on the mat，会被分割成“The”、“cat”、“sat”等的同时，会生成相应的词汇表。 此外，训练大模型的具体操作步骤如下： 1. 创建数据集：进入厚德云模型训练数据集（https://portal.houdeyun.cn/sd/dataset），在数据集一栏中，点击右上角创建数据集，输入数据集名称。zip 文件可以是包含图片+标签 txt，也可以只有图片没有打标文件（之后可以在 c 站使用它的自动打标功能）。也可以一张一张单独上传照片，但建议提前把图片和标签打包成 zip 上传。Zip 文件里图片名称与标签文件应当匹配，例如：图片名"1.png"，对应的达标文件就叫"1.txt"。上传 zip 以后等待一段时间，确认创建数据集，返回到上一个页面，等待一段时间后就会上传成功，可以点击详情检查，可以预览到数据集的图片以及对应的标签。 2. Lora 训练：点击 Flux，基础模型会默认是 FLUX 1.0D 版本。选择数据集，点击右侧箭头，会跳出所有上传过的数据集。触发词可有可无，取决于数据集是否有触发词。模型效果预览提示词则随机抽取一个数据集中的标签填入即可。训练参数这里可以调节重复次数与训练轮数，厚德云会自动计算训练步数。如果不知道如何设置，可以默认 20 重复次数和 10 轮训练轮数。可以按需求选择是否加速，点击开始训练，会显示所需要消耗的算力。然后就可以等待训练了，会显示预览时间和进度条。训练完成的会显示出每一轮的预览图。鼠标悬浮到想要的轮次模型，中间会有个生图，点击会自动跳转到使用此 lora 生图的界面。点击下方的下载按钮则会自动下载到本地。 从原理层面，用数学来理解 Prompt：传统的机器学习是 p，假设 a 是训练出来的通用模型，这个模型没有经过人工标注，但什么都可以学会。给出的 Prompt 其实就是 x，然后让大模型基于这个 x 知道概率最大的 y，这样就避免了人工标注，但依赖于 x 给入的信息，去更大概率找到合适的 y。比如给一张照片，然后输入这是一个动物，这是什么，大模型根据这个输入，提取照片的特征和提示作为输入，最终返回猫。
2025-02-11
Ai训练营课程大纲
以下是 AI 实训营的课程大纲： 第一期： |时间|主题|课程内容| |||| |01/07 20:00<br><br>必须了解的企业级 AI 应用开发知识点|阿里云百炼大模型平台全解析<br>企业级服务场景对号入座<br>百闻不如体验，实操方有感知| |01/08 20:00<br><br>更好用的文本知识库应用跟学，快速上手阿里云百炼|生态能力解析：手把手案例带做<br>服务场景透视：企业级案例应用<br>AI 机器人搭建：企业知识问答场景全覆盖| |01/09 20:00<br><br>更热门的多模态交互案例带练，实操掌握 AI 应用开发|阿里云百炼大模型多模态能力解析<br>商家运营场景&企业级解决方案分享<br>实践课堂：拍立得场景构建| 第二期： |时间|主题|课程内容| |||| |01/22 20:00<br>|0 基础入门篇：写代码像聊天一样简单<br>可以进入钉钉群获取更多文档：https://alidocs.dingtalk.com/i/nodes/yQod3RxJKGvvkP3rfj5Lgoy7Jkb4Mw9r?utm_scene=person_space|AI 编程的能力与边界<br>通义灵码上手指南<br>一句话 AI 编程小游戏展示| |01/23 20:00<br>|AI 编程实战篇：人人都能“福从天降”|0 基础带练“福从天降”小游戏<br>自然语言生成更多小游戏<br>如何在 Github 部署并生成在线链接| 此外，入门篇还包括多模态能力及相关内容介绍，如前两日课程回顾、多模态能力介绍、应用案例体验、学习资源与作业、未来合作与更新等。
2025-02-10