在群晖上部署 chatgpt-on-wechat

ChatGPT 是一种由 OpenAI 开发的基于 GPT（生成式预训练变换器）架构的人工智能模型。 它的工作原理是：从网络、书籍等来源获取大量人类创作的文本样本，然后训练神经网络生成“类似”的文本。特别是能够从“提示”开始，继续生成“类似于训练内容”的文本。 ChatGPT 中的实际神经网络由大量简单元素组成，基本操作是为每个新单词（或单词部分）生成“输入”，然后将其“通过其元素”。 其具体工程相当引人入胜，最终（至少在它可以使用外部工具之前），ChatGPT 仅仅从它积累的“传统智慧统计数据”中提取了一些“连贯的文本线索”。 ChatGPT 基于 OpenAI 最先进的语言模型 gpt3.5turbo。使用 OpenAI 的 API，你可以用它构建自己的应用来做很多事情，比如起草邮件、写 Python 代码、回答关于一组文档的问题、创建会话代理、给软件提供自然语言接口、辅导各种学科、语言翻译、假扮游戏或其他内容的角色等。 目前 ChatGPT 官网有两个版本，分别是 GPT3.5 和 GPT4。GPT3.5 是免费版本，拥有 GPT 账号即可使用，但智能程度不如 GPT4 高，且无法使用 DALL.E3（AI 画图功能）和 GPTs 商店和高级数据分析等插件。想要使用更多功能更智能的 GPT4 需要升级到 PLUS 套餐，收费标准是 20 美金一个月，当然 GPT4 还有团队版和企业版，功能更多、限制更少，但费用也更贵，一般推荐使用 PLUS 套餐。 在注册 ChatGPT 账号之前，建议先注册一个谷歌账号，因为国外很多软件支持谷歌账号一键登录，注册谷歌账号支持国内手机号码和国内邮箱验证，过程简单。

以下是关于 AI 技术在茶饮行业的影响分析及在连锁奶茶店应用的设想： 影响分析： 1. 提升运营效率：通过自动化流程和智能预测，优化库存管理、员工排班等环节。 2. 改善客户体验：利用智能客服快速响应顾客咨询，提供个性化推荐。 3. 精准营销：基于大数据分析顾客偏好，制定更有针对性的营销策略。 应用设想： 1. 智能点单系统：根据顾客的历史订单和偏好，为其推荐饮品和搭配。 2. 库存管理优化：借助 AI 预测销售趋势，精准控制原材料库存。 3. 员工培训辅助：利用虚拟培训工具，提升员工的服务技能和产品知识。 4. 营销决策支持：通过数据分析，确定最佳的促销活动和推广渠道。 目前的知识库中，相关的具体研究报告主要有： 1. 浙江大学：《DeepSeek 技术溯源及前沿探索朱强》（2025/03/19），介绍了语言模型从基于统计的 Ngram 到 Transformer 的技术演化，以及大模型的发展，如 GPT 系列。 2. 浙江大学：《DeepSeek：回望 AI 三大主义与加强通识教育报告》（2025/03/05），围绕人工智能展开，介绍其发展历程、三大主义、技术进展、应用成果以及教育举措。 3. 清华大学：《气象人工智能技术与应用报告》（2024/12/25），围绕气象人工智能展开，介绍了其发展和应用情况。 如需下载这些研究报告，可。

以下是为您整合的相关内容： GPT4 在通用人工智能的工具使用方面表现出色，能够完成几乎所有任务，包括结合多个工具管理用户的日历和电子邮件。但它也存在一些弱点，如缺乏当前世界知识、难以进行符号操作等，不过能通过使用搜索引擎或 API 等外部工具来克服部分限制。相比之下，ChatGPT 在完成同样任务时存在较多不足。 Andrej Karpathy 亲授的大语言模型入门中提到，ChatGPT 在数学方面不擅长，会使用计算器和工具来完成相关任务，如计算估值、绘制图表、添加趋势线和进行分析等。

以下是在安卓系统上使用 ChatGPT 4o 的详细步骤： 1. 安装 Google Play： 到小米自带的应用商店搜索 Google Play 进行安装。 安装好后，打开 Google Play，按照提示一步步操作，登录 Google Play。 2. 下载安装 ChatGPT： 到谷歌商店搜索“ChatGPT”进行下载安装，开发者是 OpenAI，别下错了。 可能会遇到“google play 未在您所在的地区提供此应用”的问题。经过测试，可在 google play 点按右上角的个人资料图标，依次点按：设置>常规>帐号和设备偏好设置>国家/地区和个人资料。如果账号没有地区，可以“添加信用卡或借记卡”，国内的双币信用卡就行，填写信息时地区记得选美。如果回到 google play 首页还搜不到 chatgpt，可以卸载重装 google play，操作过程保持梯子的 IP 一直是美，多试几次。 3. 体验 ChatGPT： 如果只想体验 ChatGPT 3.5 版本，不升级 GPT4，直接登录第二部注册好的 ChatGPT 账号即可。 4. 订阅 GPT4 Plus 版本： 先在 Google play 中的【支付和订阅】【支付方式】中绑定好银行卡。 然后在 ChatGPT 里订阅 Plus。 使用 ChatGPT 4o： 1. 开启对话：打开 ChatGPT 应用或网页，点击开始对话。会员不管是在苹果还是安卓手机上购买的，电脑上都能登录。 2. 体验最新语音对话功能：版本切到 ChatGPT 4o，点击右下角“耳机?”图标，选择一个声音，就可以体验流畅的语音对话。 以上就是注册、安装和订阅 ChatGPT 4o 的详细步骤。希望能帮助您快速上手，充分利用这款强大的人工智能工具，提升工作和生活效率。关注微信公众号：JessieZTalk，在 AIGC 的路上共同进步！

以下是关于 ChatGPT 4.5 的使用方法： 1. 目前 ChatGPT 官网有 GPT3.5、GPT4 和 ChatGPT 4.5 三个版本。ChatGPT 4.5 发布后引起关注，其可以免费体验，但免费体验次数有限。 2. GPT3.5 为免费版本，拥有账号即可使用，但智能程度不如 ChatGPT 4.5，且无法使用 DALL.E3 等功能和插件。 3. ChatGPT 4.5 的知识更新到 2023 年 10 月，而 ChatGPT 4 更新到 2023 年 12 月。 4. 若想使用更多功能更智能的 ChatGPT 4.5，需要升级到 PLUS 套餐，收费标准为 20 美金一个月。GPT4 还有团队版企业版，但费用更贵，一般推荐使用 PLUS 套餐。 5. 关于注册、安装和订阅的详细步骤，您可以参考相关文章，如作者为 JessieZTalk 的亲测文章（原文链接：https://mp.weixin.qq.com/s/tzCVGrwgeG6Bss83Xmep0g ）。

DeepSeek 与 ChatGPT 存在以下区别： 1. 在 App Store 排名方面，DeepSeek R1 冲到了美国区 App Store 第一名，超越了 ChatGPT。 2. 口碑与技术实力方面，DeepSeek 没有市场部，也没有做任何市场投放，完全依靠技术实力和口碑赢得用户认可。 3. 技术特点上，DeepSeek R1 效果比肩顶尖闭源模型 o1，但价格仅为 o1 的 27 分之一，且开源让行业认知整体拉齐，得到全世界尊重和喜爱。 4. 创新模型 R1 Zero 方面，跳过了监督微调进行训练，且发现模型的思考能力可以自我涌现，具有革命性。 5. 影响方面，DeepSeek R1 的发布引发美国科技界恐慌，Meta 内部对其出色表现感到震惊，其低成本和高性能使得英伟达市场地位受到挑战，导致股价下跌、市值蒸发。 6. 对于未来展望，开源模型的进步将超越闭源模型，顶级模型推理价格急速下降，技术更加普惠平权，AI 编程效率提升、门槛降低，创作能力不断提升，催生更多可消费内容形式。 此外，ChatGPT 采用人们熟悉的聊天框，形成单线程任务，而 flowith 跳出单一聊天框，用画布和节点构建多线程思维流，更适用于深度内容生成，其由资料库、创作画布、内容编辑三部分组成，优势在于可自由调用不同 AI 模型处理不同任务，涵盖文字和图片生成，任务能有机组合形成同频任务流。

以下是 chatgptonwechat 接入企业微信应用的具体操作： 1. 登录宝塔面板，在其中可视化控制云服务器，部署 docker 容器，启动 COW 项目与微信取得关联。 2. 点击“Docker”中的“项目模板”中的“添加”按钮。 3. 项目模板代码示例如下：将编译好的内容复制进来。 4. 在容器中创建容器，选择容器编排，填入模板和名称，确定。 5. 运行成功后，点击容器，可以看到运行的是两个服务。 6. 点击“wcandyaibot”后面的日志按钮，在弹出层中用提前预备好的微信进行扫码。 7. 手动刷新界面，点击“刷新日志”，若看到“WeChat login success”，则成功将 Bot 接入微信中。 此外，还需注意： 1. chatgptonwechat 项目是基于大模型的智能对话机器人，支持微信公众号、企业微信应用、飞书、钉钉接入，可选择多种模型，能处理多种形式的内容，并通过插件访问外部资源，支持基于自有知识库定制企业 AI 应用。 2. 点击“Docker”中的“编排模板”中的“添加”按钮，可参考相关代码示例进行操作。若无法正常启动，可查看文档后面的“常见问题”。

要将 Dify 接入企业微信，您可以按照以下步骤进行操作： 1. 创建聊天助手应用：在 Dify 平台创建基础编排聊天助手应用，获取 API 密钥和 API 服务器地址。 2. 下载 Dify on WeChat 项目：下载并安装依赖。 3. 填写配置文件：在项目根目录创建 config.json 文件，填写 API 密钥和服务器地址。 4. 把基础编排聊天助手接入微信：快速启动测试，扫码登录，进行对话测试，可以选择源码部署或 Docker 部署。 5. 把工作流编排聊天助手接入微信：创建知识库，导入知识库文件，创建工作流编排聊天助手应用，设置知识检索节点和 LLM 节点，发布更新并访问 API。 6. 把 Agent 应用接入微信：创建 Agent 应用，设置对话模型和添加工具，生成 API 密钥，填写配置文件，启动程序并进行测试。 更多内容请访问原文：https://docs.dify.ai/v/zhhans/learnmore/usecases/difyonwechat 另外，CoW（chatgptonwechat）是一个基于大型语言模型的智能对话机器人项目，具有多端部署、基础对话、语音识别、图片生成、丰富插件、Tool 工具、知识库等特性和优势，支持在多个平台部署，包括微信公众号、企业微信应用、飞书、钉钉等。项目开源，GitHub 地址：https://github.com/zhayujie/chatgptonwechat ，Gitee 地址：https://gitee.com/zhayujie/chatgptonwechat 。 您还可以引入项目，在 bot/dify/新建一个 dify_image.py 的程序，将画图程序的调用过程写到 dify bot 中，如用 query“画”开头接提示来触发调用。

以下是 chatgptonwechat 接入 coze 的相关教程： 1. 登录宝塔面板，在宝塔面板中可视化控制云服务器，部署 docker 容器，启动 COW 项目与微信取得关联。 点击“Docker”中的“项目模板”中的“添加”按钮。 项目模板代码示例如下：将编译好的内容复制进来。 在容器中创建容器，选择容器编排，填入模板和名称，确定。 现实运行成功。 点击容器后，可以看到运行的是两个服务，因为接口文档中启动了两个服务。 然后点击“wcandyaibot”后面的日志按钮，在弹出层中用提前预备好的微信进行扫码。这个界面不会实时更新显示，需要手动刷新一下。点击“刷新日志”，如果看到 WeChat login success，就成功将 Bot 接入微信中了。 2. 点击“Docker”中的“编排模板”中的“添加”按钮。 备注说明版。 无备注干净版。 将上面编译好的内容复制进来。 在“容器编排”中“添加容器编排”。 选择在“编排模板”里创建的“coze2openai”。提示运行成功，如果无法正常启动，请看文档后面的“常见问题”。 3. 注意事项： 该教程默认您已经掌握通过 COW 接入微信机器人的方式了。如需补课请先前往：【共学最全版本】微信机器人跟学教程。 在 chatgptonwechat 中 config.json 中配置您自己的 Coze API Key 和 Coze Bot ID。 coze_api_key:“您创建的 Coze API Key”。 coze_bot_id:“您对应微信 Bot 的 Coze Bot 的 id”。

以下是搭建 chatgptonwechat 接入微信的教程： 1. 克隆项目代码： 注：如遇到网络问题，可把链接替换为国内镜像 安装 Python 3 和 pip 安装核心依赖（必选）：能够使用 itchat 创建机器人，并具有文字交流功能所需的最小依赖集合 拓展依赖（可选，建议安装）：如果某项依赖安装失败，可重新执行再继续 复制一份 config 文件，方便后续配置 2. 然后用公网 ip:3000 打开 FastGpt，应用中，获取个对外的 API 接口（操作：应用>发布应用>Api 访问）。点击“新建”API 秘钥，复制 API KEY 和新建按钮旁边的 API 根地址 2 个内容。用于配置接入微信 3. 回到宝塔，找【文件】菜单，找到 root，找到 chatgptonwechat 文件夹，找到 config.json 文件。双击文件，复制下方的配置全部替换掉。保存文件 4. 点击文件夹上方功能栏中的【终端】，运行程序（注意，不是左侧一级菜单里的终端） 返回扫描执行命令后，“终端”内的二维码，就完成登录成功了 5. 最后，我们来看下微信对话效果，是根据我们在 fastgpt 录入的文档内容来回答的哦。群里要记得@人才能得到回复 6. 搭建完后想拓展 Cow 的功能，推荐参考 Yaki.eth 同学这篇教程，里面的 cow 插件能进行文件总结、MJ 绘画的能力 【共学最全版本】微信机器人共学教程： 第一天教程：COW 部署 四、开始部署 cp config.json.template config.json 19、操作完成后，退出窗口，刷新一下。进入/root/chatgptonwechat/plugins/godcmd 20、双击 config.json，进入后，设置下你的 password 和 admin_users，可以设置为和示例一样的，后边再改，点击保存后关闭 21、重新回到/root/chatgptonwechat/这个文件路径下，点击终端，继续依次粘贴：touch nohup.out 、nohup python3 app.py & tail f nohup.out 22、最下方会出现一个二维码，使用你想要做机器人的微信扫码登录即可 第二天教程内容 一、替换文件 1、/root/chatgptonwechat 下，直接替换 config.py 文件 2、/root/chatgptonwechat/bot 下创建一个新文件夹，命名为“bytedance”，然后在/root/chatgptonwechat/bot/bytedance 下，上传 bytedance_coze_bot.py 文件 3、/root/chatgptonwechat/bot 文件夹下，替换 bot_factory.py 文件 4、/root/chatgptonwechat/common 文件夹下，替换 const.py 文件 5、/root/chatgptonwechat/bridge 下，替换 bridge.py 文件

以下是关于 chatgptonwechat 总结群聊插件的相关信息： sum4all 插件： 本项目为大模型内容总结服务，有微信插件、telegram 机器人、iOS 快捷指令三个版本，其中微信插件需要自行部署，需配合 chatgptonwechat 项目。 支持联网搜索。 支持多轮追问。 支持文章链接总结，且支持发送到在线笔记。 支持文件内容总结，包括 pdf、docx、markdown、txt、xls、csv、html、ppt。 支持图片总结，包括 png、jpeg、jpg（最近好像不行，也可能是配置有误）。 支持视频、播客内容总结，包括抖音、b 站、小红书、YouTube 等。 支持多种内容总结服务，可自由组合。 支持自定义 prompt。 支持自定义搜索、追问提示词。 googleSearchOnWechat 插件： 插件介绍：通过 Google 搜索或图像搜索来获取信息，并利用 ChatGPT 对结果进行总结，以获得更精准和详细的答案。同时，搜图功能让用户能够通过在网络上搜索图片来增加可玩性。 git 地址：https://github.com/Yanyutin753/googleSearchOnWechat.git

以下是关于本地部署大模型以及选择是否使用云服务商的相关内容： 本地部署大模型的主要步骤： 1. 选择合适的部署方式，包括本地环境部署、云计算平台部署、分布式部署、模型压缩和量化、公共云服务商部署等，根据自身的资源、安全和性能需求进行选择。 2. 准备训练所需的数据和计算资源，确保有足够的训练数据覆盖目标应用场景，并准备足够的计算资源，如 GPU 服务器或云计算资源。 3. 选择合适的预训练模型作为基础，可以使用开源的预训练模型如 BERT、GPT 等，也可以自行训练一个基础模型。 4. 针对目标任务进行模型微调训练，根据具体应用场景对预训练模型进行微调训练，优化模型结构和训练过程以提高性能。 5. 部署和调试模型，将训练好的模型部署到生产环境，对部署的模型进行在线调试和性能优化。 6. 注意安全性和隐私保护，大模型涉及大量数据和隐私信息，需要重视安全性和合规性。 以 SDXL 为例的本地部署步骤： 1. SDXL 的大模型分为两个部分，base+refiner 是必须下载的，base 是基础模型，用于文生图操作；refiner 是精炼模型，用于对生成的模型进行细化，生成细节更丰富的图片。还有一个配套的 VAE 模型，用于调节图片的画面效果和色彩。 2. 想要在 webUI 中使用 SDXL 的大模型，首先要在秋叶启动器中将 webUI 的版本升级到 1.5 以上。 3. 将模型放入对应的文件夹中，base 和 refiner 放在“……\\sdwebuiakiv4.2\\models\\Stablediffusion”路径下；vae 放在“……\\sdwebuiakiv4.2\\models\\VAE”路径下。完成之后，启动 webUI，就可以在模型中看到 SDXL 的模型。 以 LLM 大语言模型为例的本地部署步骤： 1. 下载并安装 Ollama，点击进入根据电脑系统下载 Ollama：https://ollama.com/download ，下载完成后，双击打开，点击“Install”，安装完成后，将下方地址复制进浏览器中。如果出现下方字样，表示安装完成：http://127.0.0.1:11434/ 。 2. 下载 qwen2:0.5b 模型（0.5b 是为了方便测试，下载快，自己设备充足的话，可以下载更大的模型）。如果是 windows 电脑，点击 win+R，输入 cmd，点击回车；如果是 Mac 电脑，按下 Command（⌘）+Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。复制相关命令行，粘贴进入，点击回车，等待下载完成。 总的来说，部署大模型需要综合考虑多方面因素，包括部署方式、数据准备、模型训练、部署调试以及安全性等。需要根据具体需求选择合适的方法，并注意优化各个环节以提高模型性能和应用效果。

SDXL 的本地部署步骤如下： 1. 模型下载：SDXL 的大模型分为两个部分，第一部分 base + refiner 是必须下载的，base 是基础模型，用于文生图操作；refiner 是精炼模型，用于对文生图生成的模型进行细化以生成细节更丰富的图片。此外，还有一个配套的 VAE 模型用于调节图片的画面效果和色彩。这三个模型可通过关注公众号【白马与少年】，回复【SDXL】获取云盘下载链接。 2. 版本升级：要在 webUI 中使用 SDXL 的大模型，需在秋叶启动器中将 webUI 的版本升级到 1.5 以上。 3. 放置模型：将 base 和 refiner 放在“……\\sdwebuiakiv4.2\\models\\Stablediffusion”路径下；vae 放在“……\\sdwebuiakiv4.2\\models\\VAE”路径下。 4. 启动使用：完成上述步骤后启动 webUI，即可在模型中看到 SDXL 的模型。正常使用时，先在文生图中使用 base 模型，填写提示词和常规参数（如尺寸设置为 10241024）进行生成。然后将图片发送到图生图当中，大模型切换为“refiner”，重绘幅度开小一点再次点击生成。 5. 插件辅助：若觉得操作麻烦，可在扩展列表中搜索 refine 安装插件并重启，启用插件后可在文生图界面直接使用 refine 模型进行绘画。 另外，关于本地部署资讯问答机器人：Langchain + Ollama + RSSHub 实现 RAG，步骤包括导入依赖库（如 feedparse 用于解析 RSS 订阅源，ollama 用于在 python 程序中跑大模型，使用前需确保 ollama 服务已开启并下载好模型）、从订阅源获取内容（通过指定函数从 RSS 订阅 url 提取内容，并将长文本拆分成较小的块附带相关元数据）、为文档内容生成向量（使用文本向量模型 bgem3，从 hf 下载好模型后放置在指定路径，通过函数利用 FAISS 创建高效的向量存储），最终实现 RAG。

以下是使用秋叶整合包搭建本地部署的步骤： 1. 下载整合包：可以从。 2. 复制启动器到下载仓库的目录下。 3. 打开启动器，可一键启动。如果有其他需求，可以在高级选项中调整配置。 显存优化根据显卡实际显存选择，不要超过当前显卡显存。xFormers 能极大地改善内存消耗和速度，建议开启。 4. 准备工作完毕后，点击一键启动即可。等待浏览器自动跳出，或是控制台弹出本地 URL 后说明启动成功。 如果报错提示缺少 Pytorch，则需要在启动器中点击配置。 5. Stable Diffusion webui 的更新比较频繁，请根据需求在“版本管理”目录下更新，同时注意插件的更新。 在 webui 的“扩展”选项卡下，可以安装插件。点击“加载自”后，目录会刷新，选择需要的插件点击右侧的 install 即可安装。安装完毕后，需要重新启动用户界面。 具体安装方法： 1. 打开整合包链接（https://pan.baidu.com/s/1hY8CKbYRAj9RrFGmswdNiA?pwd=caru ，提取码：caru），下载《1.整合包安装》，存放到电脑本地。 2. 打开保存到电脑里的文件夹。 3. 打开文件夹《1.秋叶整合包主包》，鼠标右击文件，点击“解压文件”。 4. 选择解压到 D 盘或者 E 盘（避免 C 盘被占满），点击确定。 5. 解压完成后，来到第二个文件夹，双击里面的文件，点击安装。 6. 打开刚刚解压保存的 SD 的根目录，找到启动器，鼠标右击启动器，点击“发送到”，选择桌面快捷方式，方便下次进入。 7. 双击启动器，等待更新，接着点击左边第二个“高级选项”，在显存优化里，根据自己电脑的显存选择。 8. 回到第一个一键启动，点击右下角的一键启动。出现代码页面不用管，等待 SD 的主界面在网页上自动弹出。如果出现报错，可以回到最开始的界面，在左边点击“疑难解答”，再点击右边的“开始扫描”，最后点击“修复”按钮。

部署自己私人 AI 可以参考以下几种方式： 通过云服务器、dify、智能微秘书来免费搭建微信机器人： 1. 在宝塔面板的终端安装相关命令，这些命令位于/root/dify/docker 目录下。 2. 检查运行的容器数量，若 nginx 容器无法运行，可能是 80 端口被占用，可将终端输出的代码粘贴给 AI 以解决。 3. 在浏览器地址栏输入公网 IP（去掉后面的:8888），进入后邮箱密码随便填，建立知识库并进行设置。 4. 选择模型，国内模型有免费额度可选，如智谱 ai，获取钥匙并复制保存，创建应用进行测试和发布。 基于 Hook 机制的微信 AI 机器人： 1. 将 Administrators 改成“wxid_dna83ykqawl222”。 2. 若有 FastGPT 或者 OpenAI 的 key，将 Ai_Lock 修改成“1”，并在 OpenAI 处添加模型 key；若没有，保持 Ai_Lock 为 0。 3. 修改后点击保存。 4. 返回 NGCbot 文件夹下，找到 main.py 文件双击运行。 5. 运行后会弹出微信登录框，正常登录微信，等待系统自动初始化必备文件。 6. 运行成功后，用“大号”给机器人发消息，拿到 wxid 并返回替换。 7. 添加完后，用小号登录，大号可对小号发号施令。 部署和训练自己的 AI 开源模型： 1. 选择合适的部署方式，如本地环境部署、云计算平台部署、分布式部署、模型压缩和量化、公共云服务商部署等，根据自身资源、安全和性能需求选择。 2. 准备训练所需的数据和计算资源，确保有足够的训练数据覆盖目标应用场景，并准备足够的计算资源，如 GPU 服务器或云计算资源。 3. 选择合适的预训练模型作为基础，如开源的 BERT、GPT 等，也可自行训练基础模型。 4. 针对目标任务进行模型微调训练，根据具体应用场景对预训练模型进行微调，优化模型结构和训练过程以提高性能。 5. 部署和调试模型，将训练好的模型部署到生产环境，对部署的模型进行在线调试和性能优化。 6. 注意安全性和隐私保护，重视大模型涉及的大量数据和隐私信息的安全性和合规性。 总的来说，部署和训练自己的大模型需要综合考虑多方面因素，包括部署方式、数据准备、模型训练、部署调试以及安全性等，根据具体需求选择合适的方法，并注意优化各个环节以提高模型性能和应用效果。

以下是关于 Deep Seek 本地部署（Olama + ChatBox）+私有知识库（cherrystudio）的相关内容： 一、使用 Docker + RAGFlow + Ollama 搭建个人/企业知识库 1. 将 Ollama 部署的模型接入 GARFlow 返回 RAGFlow 中，打开右上角设置，进入模型提供商，配置 Ollama 相关信息，基础 URL 按要求设置，设置完成后点击确定。 导入一个 embedding 模型用于文本向量化，导入成功后设置系统模型设置，然后返回知识库创建知识库。 进入数据集，导入文件（可设置文件夹当作知识库），导入完毕后解析文件，解析速度取决于本机 GPU 性能，解析好后进行检索测试，测试没问题即可进入聊天界面，助理设置可自行设置。 2. 使用 Ollama 本地部署 DeepSeek 模型 先下载 Ollama 程序，官方网址：https://ollama.com/ 。 下载默认到 C 盘（一般为固态盘，运行速度快），若想修改安装目录到 D 盘，后续会有说明。 下载完右下角会出现 Ollama 图标，打开命令行输入相关命令回车。 若显卡是英伟达 2060Super，可选择 Deepseekr1:14b 的模型，根据自身独立显卡性能下载。 下载速度慢可按 Ctrl+C 强制退出重新下载。 下载完毕后再下载一个嵌入模型，Ollama 的 bge 模型官方网址：https://ollama.com/library/bgem3 ，输入相关命令，下载好后直接退出终端。 二、Flowith 相关报道、采访、使用指南 |标题|发布账号|社媒来源|日期|链接| |||||| |ChatGPT 的对话框过时了？这款 AI 产品提供了一种很新的聊天方式|爱范儿|公众号|2024/04/29|| |Flowith：革新你的工作方式，体验节点式 AI 的超流畅生产力|程序那些事儿|公众号|2024/05/03|| |体验 Flowith：探索人机交互从传统聊天对话到画布式知识管理的转变|AI 兔子洞|公众号|2024/04/22|| |deepseek 服务器繁忙？硅基流不动？看看这篇，内含 18 个平台，可能是最全的 deepseek 方案。|佐佐的 AI 笔记|公众号|2025/02/06|| |满血版自部署 DeepSeekR1+知识库+联网搜索,体验下来可能就只剩下这家了!|字节笔记本|公众号|2025/02/12|| |DeepSeek 让 AI 圈卷出了新高度：Flowith 宣布 DeepSeek R1 现在免费提供!|字节笔记本|公众号|2025/01/27|| |ShowMeAI 周刊 No.15|上周最有讨论度的 6 个 AI 话题：自由画布类产品密集更新、多主体一致成发展趋势、AGI、开源…|ShowMeAI 研究中心|公众号|2025/01/21||

以下是关于本地部署大模型并微调建立本地知识库的详细步骤： 一、使用 AnythingLLM 进行本地知识库搭建 1. 安装 AnythingLLM 安装地址：https://useanything.com/download 安装完成后进入配置页面，主要分为三步： 第一步：选择大模型 第二步：选择文本嵌入模型 第三步：选择向量数据库 2. 构建本地知识库 在 AnythingLLM 中创建自己独有的 Workspace 与其他项目数据隔离。 上传文档并在工作空间中进行文本嵌入。 选择对话模式，提供了 Chat 模式（大模型根据训练数据和上传文档数据综合给出答案）和 Query 模式（大模型仅依靠文档中的数据给出答案）。 二、张梦飞的全本地部署教程 1. 部署大语言模型 下载并安装 Ollama 点击进入，根据电脑系统，下载 Ollama：https://ollama.com/download 下载完成后，双击打开，点击“Install” 安装完成后，将下方地址复制进浏览器中。如果出现下方字样，表示安装完成：http://127.0.0.1:11434/ 下载 qwen2:0.5b 模型 如果是 Windows 电脑，点击 win+R，输入 cmd，点击回车；如果是 Mac 电脑，按下 Command（⌘）+Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。 复制相关命令行，粘贴进入，点击回车。 三、智能纪要中的相关内容 在智能纪要中，许键介绍了模型 API 调用方法与知识库创建，包括获取 API key 位置及调用设置，详细讲解了创建 Rag 应用（知识库）流程，如上传非结构化文件、数据解析、切分段落等操作，并回答了诸多问题。同时还涉及工作流创建、模型能力及相关问题的探讨，以及通义千问相关应用及明天课程安排交流等内容。 总之，本地部署大模型并建立本地知识库需要按照上述步骤进行操作和配置，同时不断实践和探索，以达到理想的效果。