直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

怎么加载开源模型？

回答

加载开源模型的步骤如下：

  1. 下载相关模型节省时间：
    • Base Model - DreamShaper XL Turbo: https://civitai.com/models/112902/dreamshaper-xl
    • LoRA：Envy Anime Watercolor XL 03：https://civitai.com/models/382684/envy-anime-watercolor-xl-03
    • Alphonse Mucha Style：https://civitai.com/models/63072/alphonse-mucha-style
  2. 打开以下链接放在后台：
    • Ollama: https://ollama.com/
    • https://github.com/stavsap/comfyui-ollama
    • IPAdapter：https://github.com/cubiq/ComfyUI_IPAdapter_plus
    • InstantID: https://github.com/cubiq/ComfyUI_InstantID
    • PuLID：https://github.com/cubiq/PuLID_ComfyUI
  3. 安装缺失节点：
    • 下载过程中若发现 layer style 下不了，可重启重新下载，尝试修复。若仍不行，从官网重新下载到./custom_nodes 的文件夹下。
  4. 从官网GitHub - cubiq/ComfyUI_InstantID下载两个文件，点击左上角部分将加载器展开并选择官网下载好的两个模型。
  5. 对于 G-Dino 加载器部分，在链接：https://github.com/storyicon/comfyui_segment_anything处下载相关文件，然后检查文件是否齐全。对于 grounding-dino 和 sams 配置是否齐全可以使用“抠头发.json”来检验。
  6. Ollama 大模型部分：
    • 首先，下载 ollama，网站：Download Ollama on Windows
    • 其次，在llama3:8b-instruct-q4_K_M(ollama.com)网站中，复制代码。然后，打开 ComfyUi 根目录下的 custom_nodes\ComfyUi-Ollama-YN 的文件路径，在上方的路径下输入 cmd，进入到命令行，右键粘贴刚才的代码，等待下载。
内容由 AI 大模型生成，请仔细甄别（powered by aily）

参考资料

4-SeasonYou 工作流 副本

[title]4-SeasonYou工作流副本[heading2]一、加载模型部分（总文件有）①可以先下载下面的模型节省时间：Base Model - DreamShaper XL Turbo:https://civitai.com/models/112902/dreamshaper-xlLoRA：Envy Anime Watercolor XL 03：https://civitai.com/models/382684/envy-anime-watercolor-xl-03Alphonse Mucha Style：https://civitai.com/models/63072/alphonse-mucha-style②以下的链接可以先打开放在后台：Ollama:https://ollama.com/https://github.com/stavsap/comfyui-ollamaIPAdapter：https://github.com/cubiq/ComfyUI_IPAdapter_plusInstantID:https://github.com/cubiq/ComfyUI_InstantIDPuLID：https://github.com/cubiq/PuLID_ComfyUI③首先，将缺失节点都安装。下载过程中发现layer style下不了。重启重新下看行不行。Try fix一下。若还是不行，那么就需要从官网重新下载了。▲我的建议是直接从官方下，下到./custom_nodes的文件夹下。

4-SeasonYou 工作流 副本

[title]4-SeasonYou工作流副本[heading2]一、加载模型部分（总文件有）官网[GitHub - cubiq/ComfyUI_InstantID](https://github.com/cubiq/ComfyUI_InstantID?tab=readme-ov-file)下载两个文件：先点击如图中的左上角部分将加载器展开且选择官网下载好的两个模型：否则将会有以下的问题：⑩G-Dino加载器部分：在链接：[https://github.com/storyicon/comfyui_segment_anything](https://github.com/storyicon/comfyui_segment_anything)处下载以下文件：然后再次检查自己的文件有没有齐全：在models下创建grounding-dino且配置以下文件命名齐全。、同理，sams也是。对于grounding-dino和sams配置有没有齐全可以使用“抠头发.json”来检验然后，接下来很大概率在运行到此节点时会报科学上网的（httpsxxxxx）错误：倘若觉得在此工作流中排除bug很慢，不妨使用此网址的工作流（可以直接复制他的json内容自己创建一个txt文件后粘贴，再改后缀名为json。）进行操作：[https://www.cnblogs.com/qcy-blog/p/18222657](https://www.cnblogs.com/qcy-blog/p/18222657)那么你就要在尝试稳定的科学上网后重启UI跑工作流。便完成了。

4-SeasonYou 工作流 副本

[title]4-SeasonYou工作流副本[heading2]一、加载模型部分（总文件有）(MaxRetryError('HTTPSConnectionPool(host=\'huggingface.co\',port=443):Max retries exceeded with url:/QuanSun/EVA-CLIP/resolve/main/EVA02_CLIP_L_336_psz14_s6B.pt(Caused by SSLError(CertificateError("hostname \'huggingface.co\' doesn\'t match either of \'*.extern.facebook.com\',\'extern.facebook.com\'")))'),'(Request ID:05b932bd-e982-434e-8dc7-e41cca2e949f)')⑧Ollama大模型部分，为了应对没下载大模型带来的报错，因此需要下载大模型首先，下载ollama，网站：[Download Ollama on Windows](https://ollama.com/download)其次，在[llama3:8b-instruct-q4_K_M(](https://ollama.com/library/llama3:8b-instruct-q4_K_M)[ollama.com](https://ollama.com/library/llama3:8b-instruct-q4_K_M)[)](https://ollama.com/library/llama3:8b-instruct-q4_K_M)网站中，复制代码如红框：然后，像我建议一样打开ComfyUi根目录下的custom_nodes\ComfyUi-Ollama-YN的文件路径，在上方的路径下输入cmd：进入到下方的命令行，右键即可粘贴刚才的代码，等待下载即可：⑨instanid部分：

其他人在问
目前有哪些开源绘画模型
目前常见的开源绘画模型有： Stable Diffusion：生态最完整，能够加载的框架有 ComfyUI 框架、SD.Next 框架、Stable Diffusion WebUI 框架、diffusers 框架。 MidJourney：模型风格包罗万象，操作简洁，极富美感和艺术感。 Dall·E3（ChatGPT）：具有惊人的语义理解能力，可像甲方一样连续修改。 Fooocus：优化程度高，操作简便，类似本地化 mj。 ComfyUI：门槛高，定制化强。 HunYuanDiT：国内第一个开源绘图模型。 SDXL：开源时间为 2023.7。 SD3：开源时间为 2024.6。 KOLORS：开源时间为 2024.7，目前生图质量最高，有相关的教学视频，如“Kolors 中文生图绘画模型开源，快手接连放出高质量开源项目，是否会成为中国的 StabilityAI”等。 Flux：开源时间为 2024.8。
2024-11-07
有哪些开源或者免费的数字人工具
以下是一些开源或者免费的数字人工具： 1. HeyGen：AI 驱动的平台，能创建逼真的数字人脸和角色，使用深度学习算法生成高质量肖像和角色模型，适用于游戏、电影和虚拟现实等。 2. Synthesia：AI 视频制作平台，允许创建虚拟角色并进行语音和口型同步，支持多种语言，可用于教育视频、营销内容和虚拟助手等场景。 3. DID：提供 AI 拟真人视频产品服务和开发，上传人像照片和输入内容，平台的 AI 语音机器人能自动转换成语音并合成逼真的说话视频。 更多数字人工具请访问网站查看：https://www.waytoagi.com/category/42 此外，还有一些相关的开源代码仓库： ASR 语音识别： openai 的 whisper: https://github.com/openai/whisper wenet: https://github.com/wenete2e/wenet speech_recognition：https://github.com/Uberi/speech_recognition AI Agent： 大模型：ChatGPT、Claude、ChatGLM、文星一言、千帆大模型、通义千问等。 Agent 部分：可使用 LangChain 的模块自定义，https://www.langchain.com/ TTS： 微软的 edgetts：https://github.com/rany2/edgetts，只能使用预设人物声音，目前接口免费。 VITS：https://github.com/jaywalnut310/vits，还有很多分支版本。 sovitssvc: https://github.com/svcdevelopteam/sovitssvc，专注于唱歌。 请注意，这些工具的具体功能和可用性可能会随时间和技术发展而变化。在使用时，请确保遵守相关使用条款和隐私政策，并注意保持对生成内容的版权和伦理责任。
2024-11-07
有哪些开源免费的数字人工具
以下是一些开源免费的数字人工具： 1. HeyGen：这是一个 AI 驱动的平台，能创建逼真的数字人脸和角色，使用深度学习算法生成高质量肖像和角色模型，适用于游戏、电影和虚拟现实等应用。 2. Synthesia：AI 视频制作平台，允许创建虚拟角色并进行语音和口型同步，支持多种语言，可用于教育视频、营销内容和虚拟助手等场景。 3. DID：提供 AI 拟真人视频产品服务和开发，上传人像照片和输入内容，平台的 AI 语音机器人将自动转换成语音并合成逼真的会开口说话的视频。 更多数字人工具请访问网站查看：https://www.waytoagi.com/category/42 。 请注意，这些工具的具体功能和可用性可能会变化。使用时请遵守相关使用条款和隐私政策，并注意生成内容的版权和伦理责任。 此外，以下是一些与数字人相关的开源代码仓库： ASR 语音识别： openai 的 whisper: https://github.com/openai/whisper wenet: https://github.com/wenete2e/wenet speech_recognition：https://github.com/Uberi/speech_recognition AI Agent： 大模型部分包括 ChatGPT、Claude、ChatGLM、文星一言、千帆大模型、通义千问等。 Agent 部分可使用 LangChain 的模块自定义，包含了 Agent 实现的几个组件：https://www.langchain.com/ TTS： 微软的 edgetts：https://github.com/rany2/edgetts，只能使用里面预设的人物声音，目前接口免费。 VITS：https://github.com/jaywalnut310/vits，还有很多分支版本。 sovitssvc: https://github.com/svcdevelopteam/sovitssvc，专注于唱歌。 人物建模模型可通过手动建模（音频驱动）或者 AIGC 的方式生成人物的动态效果（例如 wav2lip 模型）实现。 以下是部分摊位信息中与数字人相关的内容： |编号|摊位活动主题和内容|摊位区域|摊位编号| ||||| |54|AI 数字人的技术以及应用场景|D|D4| |59|百度数字人试拍|D|D3|
2024-11-07
阿里开源的数字人
阿里开源的数字人相关信息如下： 阿里的虚拟数字人：https://www.aliyun.com/product/ai/avatar?spm=5176.21213303.8115314850.1.72de53c9pdvu6T&scm=20140722.S_card@@%E4%BA%A7%E5%93%81@@1161322.S_card0.ID_card@@%E4%BA%A7%E5%93%81@@1161322RL_%E6%95%B0%E5%AD%97%E4%BA%BAOR_serV_2P0_0 关于阿里在 AIGC 实践方面的相关文章： 在构建高质量的 AI 数字人方面，建好的模型可以使用 web 前端页面（Live2D 就提供了 web 端的 SDK）或者 Native 的可执行程序进行部署，最后呈现在用户面前的是一个 GUI。笔者的开源数字人项目（项目地址：https://github.com/wanh/awesomedigitalhumanlive2d）选择了 live2d 作为数字人躯壳，因为这类 SDK 的驱动方式相比现在的 AI 生成式的方式更加可控和自然，相比虚幻引擎这些驱动方式又更加轻量和简单；另外超写实的数字人风格在目前的技术能力下，处理不好一致性问题，容易带来虚假的感觉或者产生恐怖谷效应，而卡通二次元的形象给人的接受度更高。关于 live2d 的 SDK 驱动方式可以参考官方示例：https://github.com/Live2D 。
2024-11-07
开源数字人
以下是关于开源数字人的相关信息： 组合方案： 1. 先剪出音频，使用 https://elevenlabs.io/speechsynthesis 或使用 GPTsovits（）克隆声音，做出文案的音频。 2. 使用 wav2lip 整合包，导入视频和音频，对口型得到视频。基础 wav2lip+高清修复整合包下载地址：https://github.com/Rudrabha/Wav2Lip 。这就是目前的本地跑数字人的方案，效果都差不多，都是用的 wav2lip 。产品：https://synclabs.so/ 构建高质量的 AI 数字人： 1. 构建数字人躯壳：建好的模型可以使用 web 前端页面（Live2D 就提供了 web 端的 SDK）或者 Native 的可执行程序进行部署，最后呈现在用户面前的是一个 GUI 。笔者的开源数字人项目（项目地址：https://github.com/wanh/awesomedigitalhumanlive2d）选择了 live2d 作为数字人躯壳，因为这类 SDK 的驱动方式相比现在的 AI 生成式的方式更加可控和自然，相比虚幻引擎这些驱动方式又更加轻量和简单；另外超写实的数字人风格在目前的技术能力下，处理不好一致性问题，容易带来虚假的感觉或者产生恐怖谷效应，而卡通二次元的形象给人的接受度更高。关于 live2d 的 SDK 驱动方式可以参考官方示例：https://github.com/Live2D 。 相关算法开源代码： 1. ASR 语音识别： openai 的 whisper: https://github.com/openai/whisper wenet: https://github.com/wenete2e/wenet speech_recognition（这是一个语音识别的接口集合，里面有不同实现的语音识别的接口）: https://github.com/Uberi/speech_recognition 2. AI Agent： 大模型部分：包括 ChatGPT、Claude、ChatGLM、文星一言、千帆大模型、通义千问等等。 Agent 部分：可以使用 LangChain 的模块去做自定义，里面基本包含了 Agent 实现的几个组件 3. TTS： 微软的 edgetts：https://github.com/rany2/edgetts，只能使用里面预设的人物声音，目前接口免费。 VITS：https://github.com/jaywalnut310/vits，还有很多的分支版本，可以去搜索一下，vits 系列可以自己训练出想要的人声。 sovitssvc: https://github.com/svcdevelopteam/sovitssvc，专注到唱歌上面，前段时间很火的 AI 孙燕姿。 除了算法，人物建模模型可以通过手动建模（音频驱动）或者 AIGC 的方式生成人物的动态效果（例如 wav2lip 模型）实现，这样就完成了一个最简单的数字人。当然这种简单的构建方式还存在很多的问题，例如： 1. 如何生成指定人物的声音？ 2. TTS 生成的音频如何精确驱动数字人口型以及做出相应的动作？ 3. 数字人如何使用知识库，做出某个领域的专业性回答？
2024-11-06
开源大模型ChatGLM 系列有哪些版本
ChatGLM 系列的开源版本包括： ChatGLM36B：第三代 ChatGLM 对话模型，采用全新设计的 Prompt 格式，原生支持工具调用、代码执行和 Agent 任务等复杂场景。 ChatGLM36Bbase：第三代 ChatGLM 基座模型，采用更多样的训练数据、更充分的训练步数和更合理的训练策略，在 10B 以下的基础模型中性能较强。 ChatGLM36B32k：第三代 ChatGLM 长上下文对话模型，在 ChatGLM36B 的基础上进一步强化了对长文本的理解能力，能处理最多 32K 长度的上下文。
2024-11-04
SD大模型无法加载
SD 大模型无法加载可能有以下原因及解决方法： 1. LORA 方面： LORA 可以提炼图片特征，文件通常有几十上百兆，承载信息量远大于 Embedding。下载的 LORA 放在根目录的【……\\models\\Lora】文件夹下，使用时点击红色小书，找到 LORA 选项卡加载。 使用 LORA 时要注意看作者使用的大模型，一般需配套使用，还可能需要加入特定触发词，如盲盒 LORA 需加入“full body, chibi”等提示词。 2. Hypernetworks 方面： Hypernetworks 主要针对画风训练，文件下载后放在根目录的【…\\models\\hypernetworks】，使用时点击红色小书，找到 Hypernetworks 选项卡加载。 3. 模型下载与安装方面： 常用的模型下载网站有：。 下载模型后需放置在指定目录，大模型（Ckpt）放入【models\\Stablediffusion】，VAE 模型放入【models\\Stablediffusion】或【models\\VAE】目录（有的大模型自带 VAE 则无需再加），Lora/LoHA/LoCon 模型放入【extensions\\sdwebuiadditionalnetworks\\models\\lora】或【models/Lora】目录，Embedding 模型放入【embeddings】目录。模型类型可通过检测。 不会科学上网时，可在启动器界面直接下载模型，将下载的大模型放在根目录的【……\\models\\Stablediffusion】，在左上角模型列表中选择（看不到就点旁边蓝色按钮刷新）。 旁边的 VAE 相当于给模型增加提高饱和度的滤镜和局部细节微调，可在启动器里下载，放在根目录的【……\\models\\VAE】。 Embedding 功能相当于提示词打包，下载 Embedding 可在 C 站通过右上角筛选 Textual Inversion 找到，放在根目录下的【embeddings】文件夹里。 由于无法确定您大模型无法加载的具体原因，您可以根据上述内容逐一排查。
2024-11-12
知道源代码就可以加载AI吗？
一般来说，仅仅知道源代码并不一定能够直接加载 AI 。以 GPT4 的代码解释器为例，它是一种特定的模式，允许用户将文件上传到 AI，让 AI 编写和运行代码，并下载 AI 提供的结果。它可以用于执行程序、运行数据分析、创建各种文件、网页甚至游戏。但使用代码解释器进行分析存在未经培训的人使用的风险，许多测试专家对此印象深刻，甚至有论文表明它可能需要改变培训数据科学家的方式。如果您想了解更多关于如何使用它的详细信息，可以访问相关帖子。
2024-10-01
什么是加载别人训练的qwen模型？
加载别人训练的 qwen 模型通常涉及以下步骤： 1. 对于直接调用千问的某一个大模型，如“qwenmax”模型，在 COW 中需要更改 key 和 model。在 /root/chatgptonwechat/文件夹下，打开 config.json 文件进行更改，并添加"dashscope_api_key"。获取 key 可参考视频教程或图文教程。同时，需要“实名认证”后，这些 key 才可以正常使用，若对话出现“Access to mode denied.Please make sure you are eligible for using the model.”的报错，可能是未实名认证，可点击去，或查看自己是否已认证。 2. 部署大语言模型时，如下载 qwen2:0.5b 模型，对于不同的电脑系统操作有所不同。如果是 Windows 电脑，点击 win+R，输入 cmd 点击回车；如果是 Mac 电脑，按下 Command（⌘）+ Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。之后复制相关命令行并粘贴回车，等待自动下载完成。 3. 对于 Ollama 大模型部分，为避免没下载大模型带来的报错，需要先下载 ollama，网站：网站中复制代码，然后像特定操作一样打开 ComfyUi 根目录下的 custom_nodes\\ComfyUiOllamaYN 的文件路径，在上方的路径下输入 cmd，进入到下方的命令行，右键粘贴刚才的代码，等待下载即可。
2024-10-01
controlnet一直加载怎么办
ControlNet 一直加载可能由以下原因导致及对应的解决方法： 1. 模型版本问题：确保 checkpoint、ContalNet 等所有需要加载模型的版本均基于 SD1.5，否则可能会报“超出索引”的错误。 2. 节点未安装完全：载入工作流后若出现爆红部分，可能是节点没下好、没下全。此时可以先全部更新，让所缺节点“显露出来”，然后安装好缺失的节点。 3. 参数设置问题：假如右下角的区域报红，那么就得根据报错信息相应调整一下左上角蓝色区域的 h、w 参数。 此外，ControlNet 还有一些新的功能和应用，例如： 1. 1.1 版本新出的 lineart 线稿提取功能，可先通过 invert 预处理将白底黑线处理成黑底白线，然后切换到 lineart 预处理器和模型进行生成。 2. mlsd 直线线条检测功能，一般用在建筑或者室内设计上，预处理器可提炼出室内的结构线。 ComfyUI 中的 ControlNet 高级控件： 在时间步和批处理潜变量之间调度 ControlNet 强度的节点，以及应用自定义权重和注意力掩码。这里的 ControlNet 节点完全支持滑动上下文采样。输入包括 positive（提示词（正面））、negative（提示词（负面））、control_net（加载了控制网络）、image（用于指导控制网络的图像）、mask_optional（应用于控制网络的注意力掩码）、timestep_kf（时间步关键帧）、latent_kf_override（潜在关键帧的覆盖）。
2024-08-29
如何可以使用到chatgpto1大模型
目前 ChatGPT 没有 ChatGPT1 这个大模型。ChatGPT 有多个版本，如 ChatGPT3、ChatGPT3.5、ChatGPT4 等。您可以通过以下方式使用 ChatGPT 相关模型： 1. 访问 OpenAI 的官方网站，按照其指引进行注册和使用。 2. 部分应用和平台可能集成了 ChatGPT 的接口，您可以在这些应用中体验其功能。 需要注意的是，使用 ChatGPT 时应遵循相关的使用规则和法律法规。
2024-11-16
什么工具/模型/API 可以根据宠物照片生成数字宠物 可以有简单的活动。
以下是一个可以根据宠物照片生成数字宠物并具有简单活动的工具/模型/API： 出门问问 Mobvoi 的照片数字人工作流及语音合成（TTS）API。 出门问问是一家以生成式 AI 和语音交互为核心的人工智能公司，为全球多个国家提供面向创作者的 AIGC 工具、AI 政企服务，以及 AI 智能硬件。致力于打造国际领先的通用大模型，通过 AI 技术、产品及商业化三位一体发展，致力成为全球 AI CoPilot 的引领者。 在 ComfyUI 全球领导力峰会上，特意搭建了数字人 workflow（照片数字人驱动），仅需上传一张照片，输入一段文字或者上传一段音频，就可以生成短视频让“照片开口说话”。本次活动特意提供了免费 api 额度及操作指南给大家进行体验。以下是一些不同风格的照片驱动效果展示：
2024-11-16
大模型微调
大模型微调是在较小的、特定领域的数据集上继续大模型的训练过程，具有重要意义和多种方式： 意义： 提高模型在特定任务中的性能：可以输入更多示例，经过微调的模型在特定任务中表现更好，但可能会失去一些通用性。 提高模型效率：实现更低的延迟和成本，可通过专门化模型使用更小的模型，以及舍弃示例或指令来改善。 方式： 从参数规模的角度，分为全量微调 FFT（Full Fine Tuning）和 PEFT（ParameterEfficient Fine Tuning）。全量微调是对全量的模型参数进行全量的训练，而 PEFT 只对部分模型参数进行训练。从成本和效果综合考虑，PEFT 是目前业界较流行的微调方案。 对于 Llama3 的微调，需要下载数据集，如可参考文档： 。有了数据集后，将其上传到服务器，编写并执行微调代码，大概 15 分钟左右可完成微调。 此外，通俗来讲，大模型是输入大量语料，让计算机获得类似人类的“思考”能力，能进行文本生成、推理问答、对话、文档摘要等工作。大模型的训练、使用过程可类比上学参加工作：找学校（需要大量 GPU 进行训练）、确定教材（需要大量数据）、找老师（选择合适算法）、就业指导（即微调）、搬砖（推导）。在 LLM 中，Token 被视为模型处理和生成的文本单位，会对输入进行分词并数字化形成词汇表。 OpenAI 官方微调教程：
2024-11-16
什么是大模型
大模型通俗来讲，是输入大量语料，让计算机获得类似人类的“思考”能力，从而能够理解自然语言，并进行文本生成、推理问答、对话、文档摘要等工作。 大模型的训练和使用过程可以用“上学参加工作”来类比： 1. 找学校：训练大模型需要大量计算，GPU 更合适，只有购买得起大量 GPU 的才有资本训练。 2. 确定教材：大模型需要的数据量特别多，几千亿序列（Token）的输入基本是标配。 3. 找老师：用合适的算法讲述“书本”中的内容，让大模型更好理解 Token 之间的关系。 4. 就业指导：为让大模型更好胜任某一行业，需要进行微调（fine tuning）指导。 5. 搬砖：就业指导完成后，进行如翻译、问答等工作，在大模型里称之为推导（infer）。 在大模型中，Token 被视为模型处理和生成的文本单位，会被数字化形成词汇表，便于计算机处理。为让计算机理解 Token 之间的联系，还需把 Token 表示成稠密矩阵向量，这个过程称为 embedding，常见算法有基于统计的 Word2Vec、GloVe，基于深度网络的 CNN、RNN/LSTM，基于神经网络的 BERT、Doc2Vec 等。以 Transform 为代表的大模型采用自注意力（Selfattention）机制来学习不同 token 之间的依赖关系，生成高质量 embedding。 大模型的“大”指用于表达 token 之间关系的参数多，主要是模型中的权重（weight）与偏置（bias），例如 GPT3 拥有 1750 亿参数。 所谓的大模型，简而言之就是拥有庞大参数数量的模型，通过处理和理解海量数据，能够胜任一系列复杂的任务。大模型强大的原因在于庞大的参数数量和大量的数据，参数帮助模型更深入地理解和生成数据，大量数据是学习的基础，使其能掌握丰富的知识和技能。
2024-11-16
混元大模型
腾讯混元大模型（HunyuanLarge）是全球最大的 MoE 开源模型，具有以下特点： 拥有 3890 亿参数，其中活跃参数为 520 亿。 具备强大的长文本处理和常识推理能力，支持 256K 上下文窗口。 通过数据增强，使用合成数据提升对未见内容的理解。 详细介绍： 模型下载： 技术报告：
2024-11-15
整合多家大预言模型的工具
以下为整合多家大语言模型的工具介绍： 1. Poe： 由 Quora 开发，有 APP 版本，支持跨端使用。 集成了 Chat GPT、GPT4、Claude+、Claude、Dragonfly 等模型，同时支持用户自建 Chatbot。 不同语言模型回复效果有差异，适合需要调用多种大语言模型的用户。 Dragonfly 擅长给出较短的回答，并擅长在输入中给出示例时遵循指示。 Claude 更擅长创造性回复，配合 Poe 中的提问引导，非常适合在查阅资料时使用，有时能够给出超越直接使用 Chat GPT 时的体验，但和 Chat GPT 一样，Claude 也时常会给出一些错误回复，一些问题可在两个模型中都问一遍提升信息准确性。 支持分享用户和模型的对话内容，但 GPT4、Claude+产品需要付费订阅使用。 访问地址： Poe 中的提问引导能够启发用户，支持 Explore Chatbot，但丰富度不如后续要介绍的 Character，midjourney prompt 扩写 Chatbot 能力很惊人。 2. Ollama： 支持多种大型语言模型，包括通义千问、Llama 2、Mistral 和 Gemma 等，适用于不同应用场景。 易于使用，适用于 macOS、Windows 和 Linux 系统，同时支持 cpu 和 gpu。 提供模型库，用户可从中下载不同模型，这些模型有不同参数和大小，以满足不同需求和硬件条件。模型库可通过 https://ollama.com/library 查找。 用户可通过简单步骤自定义模型，例如修改模型的温度参数来调整创造性和连贯性，或者设置特定的系统消息。 提供 REST API，用于运行和管理模型，以及与其他应用程序的集成选项。 社区贡献丰富，包括多种集成插件和界面，如 Web 和桌面应用、Telegram 机器人、Obsidian 插件等。 下载安装地址：https://ollama.com/download/ ，安装完后，在 mac 上启动 ollama 应用程序，在 linux 上通过 ollama serve 启动，可通过 ollama list 确认，未下载模型时正常显示空，可通过 ollama 命令下载模型。 3. 未来还会不断丰富大模型的外延能力，例如知识库检索、计算工具、WolframAlpha、操作软件等。首先集成了 LangChain 框架，可更方便地基于 Llama2 开发文档检索、问答机器人和智能体应用等。针对 LangChain 框架封装的 Llama2 LLM 类见，简单的调用代码示例如下。
2024-11-15