Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

为什么要本地部署

Answer

以下是关于本地部署的一些原因：

  • 对于只有特定设备（如只有一台 Mac 设备），且想灵活学习 AI 生图的情况，本地部署是最方便的。
  • 如果电脑是 M 芯片的 Mac 电脑（Intel 芯片出图速度慢不建议）或者 2060Ti 及以上显卡的 Windows 电脑，可以选择本地部署，强烈建议在配有 N 卡的 Windows 电脑上进行。
  • 本地部署测试方便，还可以尝试让其控制家里的智能家居。
Content generated by AI large model, please carefully verify (powered by aily)

References

维纳 Vina： MacBook Pro M1 跑通二狗子的黑神话工作流-ComfyUI 新手从0到1系列

这么多不方便的地方，那为什么我还要在Mac中部署呢？没办法，我只有这一台设备，我暂时不想增加成本，我又想灵活地学习AI生图，所以在本地部署是最方便的。在这篇文章中，我详细记录了在Mac上部署ComfyUI的步骤和报错解决方案，手把手带你跑通二狗子黑神话工作流，也想在Mac上使用ComfyUI的新手朋友们，跟着我的教程一起操作吧～

必学必看基础 ❗️

根据电脑的硬件情况和自身财力💰选择合适的开始方式本地部署如果你的电脑是M芯片的Mac电脑（Intel芯片出图速度非常慢，因此不建议）或者2060Ti及以上显卡的Windows电脑，可以选择本地部署。强烈建议在配有N卡的Windows电脑上进行在线平台对于电脑不符合要求的小伙伴可以直接使用在线工具，在线工具分为在线出图和云电脑两种，前者功能可能会受限、后者需要自己手动部署，大家根据实际情况选择即可配台电脑❗️非常不建议一上来就配主机，因为大概率会变成游戏机或者吃灰（土豪请随意）。玩几个月后还对AI有兴趣的话再考虑配个主机。主机硬盘要大，显卡预算之内买最好，其他的随意[heading2]课程简述[content]先验经验需要熟练使用文生图、图生图；需要有一定的逻辑思考能力以及推理能力；适合炼丹新人、小白课程安排课程大约70-80%是理论和方法论的内容，大部分练习会在课外跟大家沟通、练习。只有少部分必要内容会在课上演示[heading2]学习路径[content]必学、必看内容是基础课，主要是为了解决环境问题和软件安装不上的问题；建炉是针对不同炼丹方式提供了不同的炼丹工具的安装教程；正式的内容部分分为了数据集预处理、模型训练以及模型调试及优化三个部分

大雨：如何让GPTs调用我们自己的服务

本文旨在介绍GPTs Action规范，所以代码不用复杂，本地简单几个文件就可以了。启动本地部署，要让openai能访问，方法有很多，frps，花生壳，ngrok等等都可以，这里选择的是localtunnel，一个nodes的包。安装很简单安装成功就会出来一个lt命令，通过这个命令来扩展，启动的时候，如果不带参数，会随机分配一个域名，也可以我们自己指定参数。这样的话chatgpt就能访问了。不过localtunnel因为安全性的考虑，需要加一些特殊的请求头。为什么在本地部署一方面是测试方便，另外也想试试让它控制家里的智能家居。[heading2]3.2.GPTs有版本管理功能了[content]GPTs Action给GPT插上了翅膀，也开启了潘多拉磨合。拭目以待吧。看样子GPTs的商业化进程加快了。作为商业化的重要里程碑，总算有了版本功能。不过复制不知道意义是什么。从这个历史版本可以看出来，真正起作用的是Instructions，创建这个GPTs的时候是通过会话做的，但是最终它呈现的就是它呈现的。安全性问题后续再探讨链接:https://www.iaiuse.com/posts/1959af2e.html来源:AIMeticulously

Others are asking
deepseek本地部署
DeepSeek 大模型尤其是有推理功能的 DeepSeek R1 大模型，其权重文件开源，可本地部署。DeepSeek 公司名为深度求索，其网页和手机应用目前免费，但 API 调用收费。 一夜之间，DeepSeek R1 大模型成为国民刚需，但官网卡顿，不能使用联网搜索等问题困扰了很多人。很多平台上线的 DeepSeek R1 版本存在各种不足，如不是满血版本或不能联网。本地部署的版本能作为替补，但很难长期使用。 通过工作流+DeepSeek R1 大模型，可实现联网版的 R1 大模型。实现的核心路径包括：拥有扣子专业版账号（若为普通账号，请自行升级或注册专业号）；开通 DeepSeek R1 大模型（访问地址：https://console.volcengine.com/cozepro/overview?scenario=coze ，在火山方舟中找到开通管理，开通服务，并添加在线推理模型，在扣子开发平台才能使用）；创建智能体（点击创建，完成智能体的创建）。
2025-02-20
deepseek 分布式如何部署
DeepSeek 的分布式部署情况如下： 腾讯云（自建服务器）：提供全版本，采用多机分布式部署，节点数量为 2 个，单节点配置为 HCCPNV6 机型，可在线体验（需开通 T1 平台服务）。 腾讯云（调用 API）：提供 DeepSeekR1 和 DeepSeekV3 版本，API 调用 DeepSeek 系列模型限时免费。即日至北京时间 2025 年 2 月 25 日 23:59:59，所有腾讯云用户均可享受 DeepSeekV3、DeepSeekR1 模型限时免费服务，单账号限制接口并发上限为 5。在此之后，模型价格将恢复至原价。 京东云：提供“deepseekr1:1.5b”、“deepseekr1:7b”、“deepseekr1:32b”版本，价格为 1.89 元/小时起，采用服务器部署的方式。 Gitee AI：提供全版本，R1 价格 0.1 元/次，基于沐曦曦云 GPU 及曦源一号国产替代算力集群，有在线体验。 此外，还可以通过以下步骤实现 DeepSeek 联网版的部署： 1. 拥有扣子专业版账号，如果是普通账号，请自行升级或注册专业号后使用。 2. 开通 DeepSeek R1 大模型，访问地址：https://console.volcengine.com/cozepro/overview?scenario=coze 。打开火山方舟，找到开通管理，找到 DeepSeek R1 模型，点击开通服务。添加在线推理模型，添加后在扣子开发平台才能使用。 3. 创建智能体，点击创建，先完成一个智能体的创建。
2025-02-20
deepseek 分布式部署
以下是关于 DeepSeek 分布式部署的相关信息： 云计算厂商提供的 DeepSeek 版本及特点： 腾讯云（自建服务器）：全版本，多机分布式部署，节点数量 2 个，单节点配置为 HCCPNV6 机型，可在线体验（需开通 T1 平台服务）。 腾讯云（调用 API）：DeepSeekR1、DeepSeekV3，API 调用 DeepSeek 系列模型限时免费，即日起至 2025 年 2 月 25 日 23:59:59，所有腾讯云用户均可享受限时免费服务，单账号限制接口并发上限为 5，之后模型价格将恢复原价。 京东云：“deepseekr1:1.5b、“deepseekr1:7b”、“deepseekr1:32b”，价格 1.89/小时起，服务器部署方式。 gitee ai：全版本，R1 价格 0.1 元/次，基于沐曦曦云 GPU 及曦源一号国产替代算力集群，有在线体验。 价格方面： 腾讯云（调用 API）：即日起至 20250208 24:00 享受折扣价，20250209 00:00 恢复原价。输入：￥2￥1/M Tokens，输出：￥8￥2/M Tokens。当前有优惠活动，包括邀请好友赚 2000 万 Tokens，注册即送 2000 万 Tokens。 阿里云（人工智能平台 PAI）：以 R1 为例，所需计算资源价格 316.25/小时，模型部署成在线服务，在人工智能平台 PAI 下的模型部署下的模型在线服务 EAS。 阿里云（阿里云百炼）：全版本，免费额度：10000000/10000000，通过 API 调用。 华为昇腾社区：全版本，部署 DeepSeekR1 模型用 BF16 权重进行推理至少需要 4 台 Atlas 800I A2（864G）服务器，用 W8A8 量化权重进行推理则至少需要 2 台 Atlas 800I A2，服务器调用 Docker 下载部署权重资源，非 API 调用模式。
2025-02-20
本地部署deepseek
DeepSeek 具有多种含义，包括 DeepSeek 公司（深度求索），其网页和手机应用目前免费，但 API 调用收费。DeepSeek 大模型尤其是具有推理功能的 DeepSeek R1 大模型，权重文件开源，可本地部署。 一夜之间，DeepSeek R1 大模型成为国民刚需，但官网卡顿，不能使用联网搜索等问题困扰了很多人。很多平台上线的版本存在各种不足，本地部署的版本能作为替补，但难以长期使用。 通过工作流 + DeepSeek R1 大模型，可实现联网版的 R1 大模型。实现的核心路径包括：拥有扣子专业版账号（若为普通账号，请自行升级或注册专业号），开通 DeepSeek R1 大模型（访问地址：https://console.volcengine.com/cozepro/overview?scenario=coze ，在火山方舟中找到开通管理，开通服务，并添加在线推理模型），创建智能体。
2025-02-19
deepseek 部署文档
以下是关于 DeepSeek 部署的相关内容： 《在 Azure AI Foundry 部署 DeepSeek 大模型全指南》（https://waytoagi.feishu.cn/wiki/RKK5wNbeHifSAXkAR5hcGYQmn5f?renamingWikiNode=false）：来自社区伙伴 Hua 的投稿，手把手指导您在微软 Azure AI Foundry 平台上完成 DeepSeek R1（671B）模型的完整部署流程，包含环境准备、资源管理、模型测试及 API 调用说明。 《突破 DeepSeek R1 能力天花板，火山引擎扣子+飞书一站式企业解决方案》（https://waytoagi.feishu.cn/wiki/RZE9wP94tiEO6bkU5cTcyecHnnb） 《羊毛快薅|字节火山上线了 DeepSeek 系列模型并悄悄更改了模型服务价格...》（https://waytoagi.feishu.cn/wiki/HzHSwEwtCiBmWrkRm6fc0J0Qneh）：所有用户享 50 万免费 Tokens+API 半价优惠！火山引擎上线了 DeepSeek 系列模型！咱们社区小伙伴做了零基础部署教程，5 分钟打造专属满血版 AI 助手，速度飞快！使用方法中附上了飞书多维表格的接入方法、Coze 的接入使用方法、网页插件的使用方法。 《刚刚，DeepSeek 官方发布 R1 模型推荐设置，这才是正确用法》（https://mp.weixin.qq.com/s/RA1mhAyQOoXD5XOULAGgbQ）：DeepSeek 官方下场推荐了部署 DeepSeekR1 的设置。DeepSeek 强调官方部署的版本跟开源版本模型完全一致。
2025-02-18
Deepseek老是“服务器繁忙，请稍后再试”，没有办法提升，比如说把模型部署到本地等等
如果您遇到 DeepSeek 老是显示“服务器繁忙，请稍后再试”且无法提升的情况，可以尝试以下方法： 1. 使用网页聊天： 安装插件：使用 Chrome 或 Microsoft Edge 浏览器，点击此链接安装浏览器插件并添加到拓展程序：https://chromewebstore.google.com/detail/pageassist%E6%9C%AC%E5%9C%B0ai%E6%A8%A1%E5%9E%8B%E7%9A%84web/jfgfiigpkhlkbnfnbobbkinehhfdhndo 打开聊天页面：点击右上角的插件列表，找到 Page Assist 插件，点击打开。 配置“DeepSeekR1”模型的 API key：基础 URL 为 https://ark.cnbeijing.volces.com/api/v3，填好之后点击保存，关掉提醒弹窗。 添加“DeepSeekR1”模型。 2. 完成上述操作后，您就可以愉快玩耍，无需担心“服务器繁忙”了，打开联网功能，还可以支持联网搜索使用 R1。
2025-02-15