Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

怎么加载开源模型？

Answer

加载开源模型的步骤如下：

  1. 下载相关模型节省时间：
    • Base Model - DreamShaper XL Turbo: https://civitai.com/models/112902/dreamshaper-xl
    • LoRA：Envy Anime Watercolor XL 03：https://civitai.com/models/382684/envy-anime-watercolor-xl-03
    • Alphonse Mucha Style：https://civitai.com/models/63072/alphonse-mucha-style
  2. 打开以下链接放在后台：
    • Ollama: https://ollama.com/
    • https://github.com/stavsap/comfyui-ollama
    • IPAdapter：https://github.com/cubiq/ComfyUI_IPAdapter_plus
    • InstantID: https://github.com/cubiq/ComfyUI_InstantID
    • PuLID：https://github.com/cubiq/PuLID_ComfyUI
  3. 安装缺失节点：
    • 下载过程中若发现 layer style 下不了，可重启重新下载，尝试修复。若仍不行，从官网重新下载到./custom_nodes 的文件夹下。
  4. 从官网GitHub - cubiq/ComfyUI_InstantID下载两个文件，点击左上角部分将加载器展开并选择官网下载好的两个模型。
  5. 对于 G-Dino 加载器部分，在链接：https://github.com/storyicon/comfyui_segment_anything处下载相关文件，然后检查文件是否齐全。对于 grounding-dino 和 sams 配置是否齐全可以使用“抠头发.json”来检验。
  6. Ollama 大模型部分：
    • 首先，下载 ollama，网站：Download Ollama on Windows
    • 其次，在llama3:8b-instruct-q4_K_M(ollama.com)网站中，复制代码。然后，打开 ComfyUi 根目录下的 custom_nodes\ComfyUi-Ollama-YN 的文件路径，在上方的路径下输入 cmd，进入到命令行，右键粘贴刚才的代码，等待下载。
Content generated by AI large model, please carefully verify (powered by aily)

References

4-SeasonYou 工作流 副本

[title]4-SeasonYou工作流副本[heading2]一、加载模型部分（总文件有）①可以先下载下面的模型节省时间：Base Model - DreamShaper XL Turbo:https://civitai.com/models/112902/dreamshaper-xlLoRA：Envy Anime Watercolor XL 03：https://civitai.com/models/382684/envy-anime-watercolor-xl-03Alphonse Mucha Style：https://civitai.com/models/63072/alphonse-mucha-style②以下的链接可以先打开放在后台：Ollama:https://ollama.com/https://github.com/stavsap/comfyui-ollamaIPAdapter：https://github.com/cubiq/ComfyUI_IPAdapter_plusInstantID:https://github.com/cubiq/ComfyUI_InstantIDPuLID：https://github.com/cubiq/PuLID_ComfyUI③首先，将缺失节点都安装。下载过程中发现layer style下不了。重启重新下看行不行。Try fix一下。若还是不行，那么就需要从官网重新下载了。▲我的建议是直接从官方下，下到./custom_nodes的文件夹下。

4-SeasonYou 工作流 副本

[title]4-SeasonYou工作流副本[heading2]一、加载模型部分（总文件有）官网[GitHub - cubiq/ComfyUI_InstantID](https://github.com/cubiq/ComfyUI_InstantID?tab=readme-ov-file)下载两个文件：先点击如图中的左上角部分将加载器展开且选择官网下载好的两个模型：否则将会有以下的问题：⑩G-Dino加载器部分：在链接：[https://github.com/storyicon/comfyui_segment_anything](https://github.com/storyicon/comfyui_segment_anything)处下载以下文件：然后再次检查自己的文件有没有齐全：在models下创建grounding-dino且配置以下文件命名齐全。、同理，sams也是。对于grounding-dino和sams配置有没有齐全可以使用“抠头发.json”来检验然后，接下来很大概率在运行到此节点时会报科学上网的（httpsxxxxx）错误：倘若觉得在此工作流中排除bug很慢，不妨使用此网址的工作流（可以直接复制他的json内容自己创建一个txt文件后粘贴，再改后缀名为json。）进行操作：[https://www.cnblogs.com/qcy-blog/p/18222657](https://www.cnblogs.com/qcy-blog/p/18222657)那么你就要在尝试稳定的科学上网后重启UI跑工作流。便完成了。

4-SeasonYou 工作流 副本

[title]4-SeasonYou工作流副本[heading2]一、加载模型部分（总文件有）(MaxRetryError('HTTPSConnectionPool(host=\'huggingface.co\',port=443):Max retries exceeded with url:/QuanSun/EVA-CLIP/resolve/main/EVA02_CLIP_L_336_psz14_s6B.pt(Caused by SSLError(CertificateError("hostname \'huggingface.co\' doesn\'t match either of \'*.extern.facebook.com\',\'extern.facebook.com\'")))'),'(Request ID:05b932bd-e982-434e-8dc7-e41cca2e949f)')⑧Ollama大模型部分，为了应对没下载大模型带来的报错，因此需要下载大模型首先，下载ollama，网站：[Download Ollama on Windows](https://ollama.com/download)其次，在[llama3:8b-instruct-q4_K_M(](https://ollama.com/library/llama3:8b-instruct-q4_K_M)[ollama.com](https://ollama.com/library/llama3:8b-instruct-q4_K_M)[)](https://ollama.com/library/llama3:8b-instruct-q4_K_M)网站中，复制代码如红框：然后，像我建议一样打开ComfyUi根目录下的custom_nodes\ComfyUi-Ollama-YN的文件路径，在上方的路径下输入cmd：进入到下方的命令行，右键即可粘贴刚才的代码，等待下载即可：⑨instanid部分：

Others are asking
开源模型和闭源模型
开源模型和闭源模型的情况如下： 专有模型（闭源模型）：如 OpenAI、Google 等公司的模型，需访问其官方网站或平台（如 ChatGPT、Gemini AI Studio）使用。 开源模型： 可使用推理服务提供商（如 Together AI）在线体验和调用。 可使用本地应用程序（如 LM Studio）在个人电脑上运行和部署较小的开源模型。 例如 DeepSeek、Llama 等开源模型。 Qwen 2 开源，具有多种尺寸的预训练和指令调整模型，在大量基准评估中表现出先进性能，超越目前所有开源模型和国内闭源模型，在代码和数学性能等方面显著提高。 金融量化领域的大模型正趋向闭源，几个巨头的核心模型如 OpenAI 最新一代的 GPT4、Google 的 Bard 以及未来的 Gemini 短时间内不会公开。Meta 的 LLaMA 目前开源，但未来可能改变。OpenAI 未来可能开源上一代模型。
2025-02-17
做chatbi有什么开源项目可以参考
以下是一些可参考的做 chatbot 的开源项目： Inhai:Agentic Workflow：其中介绍了大模型利用「网页搜索」工具的典型例子，还包括 Agent 自行规划任务执行的工作流路径以及多 Agent 协作的内容。 ChatDev：吴恩达通过此开源项目举例，可让大语言模型扮演不同角色相互协作开发应用或复杂程序。 ChatMLX：多语言支持，兼容多种模型，具有高性能与隐私保障，适用于注重隐私的对话应用开发者。链接：https://github.com/maiqingqiang/ChatMLX
2025-02-17
开源文字转语音
以下是为您提供的开源文字转语音相关信息： WhisperSpeech：通过对 OpenAI Whisper 模型的反向工程实现，生成发音准确、自然的语音输出。 相关链接：https://github.com/collabora/WhisperSpeech 、https://x.com/xiaohuggg/status/1748572050271420663?s=20 StyleTTS 2：一个开源的媲美 Elevenlabs 的文本转语音工具，可结合文本角色内容和场景音快速生成有声小说。 主要特点：多样化的语音风格、更自然的语音、高效生成、精确的语音控制、接近真人的语音合成、适应不同说话者。 工作原理：利用风格扩散和与大型语音语言模型（SLM）的对抗性训练来实现接近人类水平的 TTS 合成，通过扩散模型将风格建模为一个潜在的随机变量，以生成最适合文本的风格，而不需要参考语音，实现了高效的潜在扩散，同时受益于扩散模型提供的多样化语音合成。 相关链接：暂无
2025-02-15
采用GPL许可证的AI开源模型有哪些
以下是一些采用 GPL 许可证的智谱·AI 开源模型： 其他模型： WebGLM10B：利用百亿参数通用语言模型（GLM）提供高效、经济的网络增强型问题解答系统，旨在通过将网络搜索和检索功能集成到预训练的语言模型中，改进现实世界的应用部署。代码链接： WebGLM2B：代码链接无，模型下载： MathGLM2B：在训练数据充足的情况下，20 亿参数的 MathGLM 模型能够准确地执行多位算术运算，准确率几乎可以达到 100%，其结果显著超越最强大语言模型 GPT4 在相同测试数据上 18.84%的准确率。代码链接： MathGLM500M：代码链接无，模型下载： MathGLM100M：代码链接无，模型下载： MathGLM10M：代码链接无，模型下载： MathGLMLarge：采用 GLM 的不同变体作为骨干来训练 MathGLM，包括具有 335M 参数的 GLMlarge 和 GLM10B。此外，还使用 ChatGLM6B 和 ChatGLM26B 作为基座模型来训练 MathGLM。这些骨干模型赋予 MathGLM 基本的语言理解能力，使其能够有效理解数学应用题中包含的语言信息。模型下载： 多模态模型： CogAgent18B：基于 CogVLM17B 改进的开源视觉语言模型。CogAgent18B 拥有 110 亿视觉参数和 70 亿语言参数，支持 11201120 分辨率的图像理解，在 CogVLM 功能的基础上，具备 GUI 图像的 Agent 能力。代码链接：、始智社区 CogVLM17B：强大的开源视觉语言模型（VLM）。基于对视觉和语言信息之间融合的理解，CogVLM 可以在不牺牲任何 NLP 任务性能的情况下，实现视觉语言特征的深度融合。我们训练的 CogVLM17B 是目前多模态权威学术榜单上综合成绩第一的模型，在 14 个数据集上取得了 stateoftheart 或者第二名的成绩。代码链接无，模型下载： Visualglm6B：VisualGLM6B 是一个开源的，支持图像、中文和英文的多模态对话语言模型，语言模型基于 Chat 模型： ChatGLM6Bint4：ChatGLM6B 的 Int4 版本。最低只需 6GB 显存即可部署，最低只需 7GB 显存即可启动微调（，模型权重下载链接：魔搭社区、始智社区、启智社区 ChatGLM6Bint8：ChatGLM6B 的 Int8 版本。上下文 token 数：2K，代码链接：，模型权重下载链接：魔搭社区、始智社区、启智社区 AgentLM7B：1. 提出了一种 AgentTuning 的方法；2. 开源了包含 1866 个高质量交互、6 个多样化的真实场景任务的 Agent 数据集 AgentInstruct；3. 基于上述方法和数据集，利用 Llama2 微调了具备超强 Agent 能力的 AgentLM7B、AgentLM13B、AgentLM70B。上下文 token 数：4K，代码链接： AgentLM13B：上下文 token 数：4K，代码链接无，模型权重下载链接： AgentLM70B：上下文 token 数：8K，代码链接无，模型权重下载链接：
2025-02-14
开源模型的MIT模式、Apache、GPL、BSD模式的模型案例有哪些？
目前开源模型的 MIT 模式、Apache、GPL、BSD 模式的具体案例众多且不断更新。MIT 模式的开源模型如 TensorFlow Lite；Apache 模式的有 MXNet；GPL 模式的像 Gnuplot；BSD 模式的例如 OpenCV 等。但请注意，这只是其中的一部分，实际情况可能会有所变化。
2025-02-14
开源模型的MIT模式、Apache、GPL、BSD模式的定义和区别
MIT 模式：这是一种相对宽松的开源许可模式。允许使用者对软件进行修改、再发布，并且几乎没有限制，只要求在再发布时保留原版权声明和许可声明。 Apache 模式：提供了较为宽松的使用条件，允许修改和再发布代码，但要求在修改后的文件中明确注明修改信息。同时，还包含一些专利相关的条款。 GPL 模式：具有较强的传染性和约束性。如果基于 GPL 许可的代码进行修改和再发布，修改后的代码也必须以 GPL 许可发布，以保证代码的开源性和可共享性。 BSD 模式：也是一种较为宽松的许可模式，允许使用者自由地修改和再发布代码，通常只要求保留原版权声明。 总的来说，这些开源许可模式在对使用者的限制和要求上有所不同，您在选择使用开源模型时，需要根据具体需求和项目情况来确定适合的许可模式。
2025-02-14
帮我写一个可以训练的分类器代码， python 代码，目的是将样本的扰动分为 0，0.001，0.003，0.005 四类，按照以下步骤写 第一步：导入需要的库 第二步：加载位于/public/xdw/ls/signaldefense/AS/perturbed_data.npy 的数据 第三步：获取数据样本的扰动值 第四步：判断扰动值的大小，比如扰动值为 0，则加一计数 第五步：打印出判断各类扰动值的正确率
以下是为您生成的 Python 代码示例，用于实现将样本的扰动分为 0、0.001、0.003、0.005 四类的分类器： ```python import numpy as np 第一步：导入需要的库 import numpy as np 第二步：加载数据 data = np.load 第三步：获取数据样本的扰动值 perturbation_values = data 假设扰动值在第二列 第四步：判断扰动值的大小并计数 count_0 = 0 count_0_001 = 0 count_0_003 = 0 count_0_005 = 0 for value in perturbation_values: if value == 0: count_0 += 1 elif value == 0.001: count_0_001 += 1 elif value == 0.003: count_0_003 += 1 elif value == 0.005: count_0_005 += 1 第五步：计算正确率 total_samples = len accuracy_0 = count_0 / total_samples accuracy_0_001 = count_0_001 / total_samples accuracy_0_003 = count_0_003 / total_samples accuracy_0_005 = count_0_005 / total_samples print print print print ```
2024-12-05
如何用langchian加载本地模型
要使用 Langchain 加载本地模型，您可以按照以下步骤进行： 1. 加载所需的库和模块，例如 feedparse 用于解析 RSS 订阅源，ollama 用于在 Python 程序中跑大模型。使用 ollama 前请确保服务已经开启并下载好模型。 2. 从订阅源获取内容，通过特定函数从指定的 RSS 订阅 URL 提取内容，若需接收多个 URL 稍作改动即可。然后使用专门的文本拆分器将长文本拆分成较小的块，并附带相关元数据，如标题、发布日期和链接，最终将这些文档合并成一个列表用于后续处理。 3. 为文档内容生成向量，使用文本向量模型 bgem3。从 hf 下载好模型后，假设放置在某个路径 /path/to/bgem3，通过函数利用 FAISS 创建高效的向量存储。 在整个过程中，还需要了解以下相关知识： 1. RAG（Retrieval Augmented Generation）：大模型训练数据有截止日期，当需要依靠不在训练集中的数据时，可通过检索增强生成。RAG 应用包括文档加载（从多种来源加载文档，LangChain 提供 100 多种文档加载器）、文本分割（把文档切分为指定大小的块）、存储（将切分好的文档块嵌入并存储到向量数据库）、检索（通过检索算法找到与输入问题相似的嵌入片）、输出（把问题及检索出的嵌入片提交给 LLM 生成答案）。 2. Ollama：支持多种大型语言模型，包括通义千问、Llama 2、Mistral 和 Gemma 等，易于使用，适用于 macOS、Windows 和 Linux 系统，支持 cpu 和 gpu，提供模型库，用户可下载不同模型，还支持自定义模型、提供 REST API 用于运行和管理模型及与其他应用程序集成，社区贡献丰富。安装完后确保后台服务已启动，可通过 ollama list 确认，通过 ollama 命令下载模型。
2024-11-23
SD大模型无法加载
SD 大模型无法加载可能有以下原因及解决方法： 1. LORA 方面： LORA 可以提炼图片特征，文件通常有几十上百兆，承载信息量远大于 Embedding。下载的 LORA 放在根目录的【……\\models\\Lora】文件夹下，使用时点击红色小书，找到 LORA 选项卡加载。 使用 LORA 时要注意看作者使用的大模型，一般需配套使用，还可能需要加入特定触发词，如盲盒 LORA 需加入“full body, chibi”等提示词。 2. Hypernetworks 方面： Hypernetworks 主要针对画风训练，文件下载后放在根目录的【…\\models\\hypernetworks】，使用时点击红色小书，找到 Hypernetworks 选项卡加载。 3. 模型下载与安装方面： 常用的模型下载网站有：。 下载模型后需放置在指定目录，大模型（Ckpt）放入【models\\Stablediffusion】，VAE 模型放入【models\\Stablediffusion】或【models\\VAE】目录（有的大模型自带 VAE 则无需再加），Lora/LoHA/LoCon 模型放入【extensions\\sdwebuiadditionalnetworks\\models\\lora】或【models/Lora】目录，Embedding 模型放入【embeddings】目录。模型类型可通过检测。 不会科学上网时，可在启动器界面直接下载模型，将下载的大模型放在根目录的【……\\models\\Stablediffusion】，在左上角模型列表中选择（看不到就点旁边蓝色按钮刷新）。 旁边的 VAE 相当于给模型增加提高饱和度的滤镜和局部细节微调，可在启动器里下载，放在根目录的【……\\models\\VAE】。 Embedding 功能相当于提示词打包，下载 Embedding 可在 C 站通过右上角筛选 Textual Inversion 找到，放在根目录下的【embeddings】文件夹里。 由于无法确定您大模型无法加载的具体原因，您可以根据上述内容逐一排查。
2024-11-12
知道源代码就可以加载AI吗？
一般来说，仅仅知道源代码并不一定能够直接加载 AI 。以 GPT4 的代码解释器为例，它是一种特定的模式，允许用户将文件上传到 AI，让 AI 编写和运行代码，并下载 AI 提供的结果。它可以用于执行程序、运行数据分析、创建各种文件、网页甚至游戏。但使用代码解释器进行分析存在未经培训的人使用的风险，许多测试专家对此印象深刻，甚至有论文表明它可能需要改变培训数据科学家的方式。如果您想了解更多关于如何使用它的详细信息，可以访问相关帖子。
2024-10-01
什么是加载别人训练的qwen模型？
加载别人训练的 qwen 模型通常涉及以下步骤： 1. 对于直接调用千问的某一个大模型，如“qwenmax”模型，在 COW 中需要更改 key 和 model。在 /root/chatgptonwechat/文件夹下，打开 config.json 文件进行更改，并添加"dashscope_api_key"。获取 key 可参考视频教程或图文教程。同时，需要“实名认证”后，这些 key 才可以正常使用，若对话出现“Access to mode denied.Please make sure you are eligible for using the model.”的报错，可能是未实名认证，可点击去，或查看自己是否已认证。 2. 部署大语言模型时，如下载 qwen2:0.5b 模型，对于不同的电脑系统操作有所不同。如果是 Windows 电脑，点击 win+R，输入 cmd 点击回车；如果是 Mac 电脑，按下 Command（⌘）+ Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。之后复制相关命令行并粘贴回车，等待自动下载完成。 3. 对于 Ollama 大模型部分，为避免没下载大模型带来的报错，需要先下载 ollama，网站：网站中复制代码，然后像特定操作一样打开 ComfyUi 根目录下的 custom_nodes\\ComfyUiOllamaYN 的文件路径，在上方的路径下输入 cmd，进入到下方的命令行，右键粘贴刚才的代码，等待下载即可。
2024-10-01
controlnet一直加载怎么办
ControlNet 一直加载可能由以下原因导致及对应的解决方法： 1. 模型版本问题：确保 checkpoint、ContalNet 等所有需要加载模型的版本均基于 SD1.5，否则可能会报“超出索引”的错误。 2. 节点未安装完全：载入工作流后若出现爆红部分，可能是节点没下好、没下全。此时可以先全部更新，让所缺节点“显露出来”，然后安装好缺失的节点。 3. 参数设置问题：假如右下角的区域报红，那么就得根据报错信息相应调整一下左上角蓝色区域的 h、w 参数。 此外，ControlNet 还有一些新的功能和应用，例如： 1. 1.1 版本新出的 lineart 线稿提取功能，可先通过 invert 预处理将白底黑线处理成黑底白线，然后切换到 lineart 预处理器和模型进行生成。 2. mlsd 直线线条检测功能，一般用在建筑或者室内设计上，预处理器可提炼出室内的结构线。 ComfyUI 中的 ControlNet 高级控件： 在时间步和批处理潜变量之间调度 ControlNet 强度的节点，以及应用自定义权重和注意力掩码。这里的 ControlNet 节点完全支持滑动上下文采样。输入包括 positive（提示词（正面））、negative（提示词（负面））、control_net（加载了控制网络）、image（用于指导控制网络的图像）、mask_optional（应用于控制网络的注意力掩码）、timestep_kf（时间步关键帧）、latent_kf_override（潜在关键帧的覆盖）。
2024-08-29
生成3d模型可以让模型动起来吗？
生成 3D 模型后是可以让模型动起来的。例如，通过以下工具和流程可以实现： 工具链：Midjourney（生成等距图像）→Trellis（图像转 3D 模型）→Browser Lab（浏览器内 3D 编辑器）。 步骤： 使用 Midjourney 生成等距 3D 场景，提示词示例：3D isometric bedroom with a bed and desk。（DALLE 3 也可测试） 用 Trellis 工具将图像转为 3D 模型（支持 Tripo 3D 等其他工具）。工具地址： 下载生成的 3D 模型（GLB 文件或高斯分布文件），然后导入 Browser Lab 编辑器中进一步编辑。编辑器地址： 结合可灵 AI、Hailuo AI、Runway 等工具可让场景中的人物动起来。 对于文物雕塑上色，可使用 runway 让固有想法的物体变得动态，runway gen3 的 V2V 可以让物体重新建模、重新上色，再把背景上个色，传到剪映，加上 BGM。 先上传图片，运用提示词，只要让物体动起来就行，一次可能不成功，可以多次抽卡（分够的话）。 生成好的视频的左下方，点击“Reuse”，再点击上方出现的“Video to Video”，视频就会跳转到我们的工作台。 再在下方输入提示词“3D modeling with vibrant colors”等待生成。 再重复上面一个步骤，把提示词换成“Changing the background to the universe,the body emits light”。 最后导入剪映，按照自己喜欢的风格，剪成一个小短片。 另外，可以用即梦 S2.0（或其他可以动效的工具）出动态视频，在剪映提前转成 9:16 或 16:9 的大小，否则 runway 会裁剪尺寸。
2025-02-20
你用的是什么ai模型
以下是关于所使用的 AI 模型的相关信息： 我使用的是 GPT4，其他模型的效果不太好。如果您使用 GPT4 总结的内容质量不行，可以点击“重试”按钮让其重新总结。 默认情况下，Cursor Chat 将 OpenAI 的 GPT4（具体为 GPT4Turbo 实例）用于其 AI 模型，您可以通过选择喜欢的 AI 模型，且为 Chat 选择的模型会保存供未来使用。 有实例中使用的是阿里千问模型。
2025-02-20
你是基于什么模型？
我调用的是抖音集团的云雀大模型。 Gemini 模型是基于 Transformer 解码器构建的，对模型结构进行了优化，主要为大规模稳定训练及在 Google 的 TPU 上推理优化。它能适应与各种音频和视觉输入交织的文本输入，并生成文本和图像输出，经过训练支持 32k 的上下文长度，采用高效的注意机制。 麦橘超然 MajicFlus 是一款基于 flux.dev 微调融合的模型，专注于高质量人像生成，尤其擅长亚洲女性，有卓越人像生成能力、广泛适用性、简单易用等特点。多位社区成员基于模型制作的 LoRA 一同发布，扩展了功能与表现力，但它对社区大部分的 lora 不完美兼容，需降低权重至 0.5 以下。
2025-02-20
模型微调是怎么实现的
模型微调是一种迁移学习技术，常用于深度学习中。其基本思路是先有一个在大量数据上预训练的模型，已学会一些基本模式和结构，然后在特定任务数据上继续训练以适应新任务。 以下是关于模型微调的具体实现步骤： 1. 准备和上传训练数据。 2. 训练新的微调模型： LoRA 微调： 脚本见：。 具体实现代码见。 单机多卡的微调可通过修改脚本中的include localhost:0 来实现。 全量参数微调： 脚本见：。 具体实现代码见。 3. 加载微调模型： LoRA 微调：基于 LoRA 微调的模型参数见基于 Llama2 的中文微调模型，LoRA 参数需和基础模型参数结合使用。通过加载预训练模型参数和微调模型参数。 全量参数微调：调用方式同模型调用代码示例，只需修改其中的模型名称或保存路径。 微调的优点包括： 1. 比即时设计更高质量的结果。 2. 能够训练比提示中更多的例子。 3. 由于更短的提示而节省了 Token。 4. 更低的延迟请求。 微调目前仅适用于以下基础模型：davinci、curie、babbage 和 ada。 以下是两个帮助理解微调概念的例子： 1. 情感分类：先使用大量语料库预训练模型，使其学会基本语法和单词语义，再收集标注过的电影评论（积极或消极）继续训练模型，使其学会判断评论情感。 2. 图像分类：先使用大量图片（如 ImageNet 数据集）预训练模型，使其学会识别图片中的基本形状和纹理，再收集标注过的猫和狗的图片继续训练模型，使其学会区分猫和狗。
2025-02-19
汇总一下现在的大语言模型都有哪些，国外和国内的模型分别列出来
以下是国内外的大语言模型汇总： 国外大语言模型： GPT4（OpenAI）：目前最先进的自然语言生成模型，可用于回答问题、撰写文章等。 Gemini Ultra（Google）：多模态人工智能模型，采用神经网络架构，对标 GPT4，可用于回答问题、生成代码、处理文本等。 Claude 3 Opus（Anthropic）：多模态模型，能处理超过 1 百万 token 的输入，具有实时聊天、数据处理、分析预测等功能；实现了接近完美的召回率。 国内大语言模型： 文心一言（百度）：大语言模型，可用以文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成。 讯飞星火：目前体验效果较好。 悟道・天鹰（北京智源人工智能研究院）：首个具备中英文双语知识、支持商用许可协议、国内数据合规需求的开源语言大模型。 清华 ChatGLM 。 此外，国内还有通用模型如通用模型如文心一言、讯飞星火等，处理自然语言；还有垂直模型，专注特定领域如小语种交流、临床医学、AI 蛋白质结构预测等。
2025-02-19
0到1使用大语言模型
以下是关于 0 到 1 使用大语言模型的相关内容： Ollama 框架： 1. 支持多种大型语言模型，如通义千问、Llama 2、Mistral 和 Gemma 等，适用于不同应用场景。 2. 易于使用，适用于 macOS、Windows 和 Linux 系统，同时支持 CPU 和 GPU。 3. 提供模型库，用户可从中下载不同参数和大小的模型，通过 https://ollama.com/library 查找。 4. 支持用户自定义模型，例如修改温度参数调整创造性和连贯性，或设置特定系统消息。 5. 提供 REST API 用于运行和管理模型，以及与其他应用程序的集成选项。 6. 社区贡献丰富，包括多种集成插件和界面，如 Web 和桌面应用、Telegram 机器人、Obsidian 插件等。 7. 安装完后，确保 ollama 后台服务已启动（在 mac 上启动 ollama 应用程序，在 linux 上通过 ollama serve 启动），可通过 ollama list 确认。 大模型安全： 1. 通过对齐（指令调优）使语言模型更好理解人类意图并增加安全保障，可拆解为监督微调、获取 reward model 和强化学习调整输出分布两部分。 2. LLAMA2 专门使用安全有监督微调确保语言模型安全。 3. 强化学习通过引入人类反馈数据调整模型输出分布，使模型面对训练分布外数据时能拒绝不当回答。 4. 但 Alignment 并不足以防护所有安全问题，存在越狱（Jailbreak）情况，导致模型对齐失效。 5. 还需关注隐私问题。 大模型架构与特点： 1. 包括 encoderonly、encoderdecoder 和 decoderonly 三种架构，目前熟知的 AI 助手多为 decoderonly 架构。 2. 大模型预训练数据量大，来自互联网，参数多，如 Open 在 2020 年发布的 GPT3 已达 170B 参数。 3. GPT3 可根据任务描述和示例完成任务，ChatGPT 则通过对话完成任务，二者在形式和安全性上有差别。
2025-02-19