Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

Deepseek本地化部署

Answer

以下是关于 DeepSeek 本地化部署的相关信息：

在“智能纪要：02-25|最新的 DeepSeek 玩法教学 2025 年 2 月 25 日”中提到，明天（02/26 20:00）将教授 DeepSeek 本地部署。

在“第三期「AI 实训营」手把手学 AI【第三期：尝鲜阿里云上的 DeepSeek 玩法】”中，02/26 20:00 的课程主题为“#人工智能平台 PAI 篇：本地部署满血版 DeepSeek”，课程内容包括 DeepSeek R1 技术原理、解锁 DeepSeek 的不同玩法（问答助手、蒸馏、微调）以及实战演练 DeepSeek R1 满血版快速部署和蒸馏训练。相关课程文档为用阿里云 PAI 复现 Deepseek 蒸馏.pdf

Content generated by AI large model, please carefully verify (powered by aily)

References

智能纪要：02-25 | 最新的DeepSeek玩法教学 2025年2月25日

[01:57:41](https://waytoagi.feishu.cn/minutes/obcnxm53m6nzpp16a89r5c8s?t=7061000)大模型及知识库使用讲解与问题解答本章节许键介绍模型API调用方法与知识库创建。告知获取API key位置及调用设置，详细讲解创建Rag应用（知识库）流程，包括上传非结构化文件、数据解析、切分段落等操作，还回答诸多问题，如知识库访问权限、智能体接收文档等，并提及作业是构建常用应用。[02:15:10](https://waytoagi.feishu.cn/minutes/obcnxm53m6nzpp16a89r5c8s?t=8110000)工作流创建、模型能力及相关问题探讨本章节主要讨论工作流相关问题。涉及历史版本功能，如对话流不支持上传文档，可向百练提需求；探讨了根据小说写序章、英文翻译、文字校对等工作流搭建；解释了模型能力、query概念；还提到工作流发布渠道、联网搜索网站设置及根据用户语言回复等内容。[02:22:50](https://waytoagi.feishu.cn/minutes/obcnxm53m6nzpp16a89r5c8s?t=8570000)通义千问相关应用及明天课程安排交流本章节主要讨论智能体相关内容，包括图片识别后让大语言模型回答防治方法，智能体应用及工作流概念、工具添加等。还提及明天将教Deepseek本地部署、蒸馏模型部署及微调，分享了发布智能体消耗token等情况，最后回答了一些问题并预告通义千问推理模型进展。

第三期「AI实训营」手把手学AI【第三期：尝鲜阿里云上的DeepSeek玩法】

|时间|主题|课程内容|课程文档||-|-|-|-||02/25 20:00|#阿里云百炼篇：用DeepSeek搭建智能体|阿里云百炼满血版DeepSeek介绍<br>基于阿里云百炼的DeepSeek智能体搭建|[尝鲜阿里云百炼上的DeepSeek玩法.pdf](https://bytedance.feishu.cn/space/api/box/stream/download/all/RSqWbr9FzozYSsxehRDc0iNVnWe?allow_redirect=1)||02/26 20:00|#人工智能平台PAI篇：本地部署满血版DeepSeek|DeepSeek R1技术原理<br>解锁DeepSeek的不同玩法：问答助手？蒸馏？微调？<br>实战演练：DeepSeek R1满血版快速部署&蒸馏训练|[用阿里云PAI复现Deepseek蒸馏.pdf](https://bytedance.feishu.cn/space/api/box/stream/download/all/HWHTbXYWYoc0t8xsSk0cNalTnGg?allow_redirect=1)|

详解：DeepSeek深度推理+联网搜索 目前断档第一

本篇内容可编辑，欢迎大家补充自己的观点，（未经允许禁止修改他人内容）[heading1]deepseek几种含义[content]deepseek公司：深度求索；deepseek网页、手机应用，目前免费；API调用，收费；deepseek大模型，尤其是指有推理功能的deepseek R1大模型，权重文件开源，可本地部署；

Others are asking
我想时刻关注Deepseek目前在电商行业应用落地的场景的信息及对应的应用APP、小程序等，可以通过什么渠道第一时间获取
目前关于 Deepseek 在电商行业应用落地的场景信息以及对应的应用 APP、小程序等，您可以通过以下渠道第一时间获取： 1. 关注 Deepseek 官方网站的动态发布和通知。 2. 订阅 Deepseek 官方的社交媒体账号，如微信公众号、微博等，获取最新消息。 3. 加入相关的电商行业论坛或社区，与其他从业者交流，获取相关信息。 4. 关注电商行业的权威媒体和资讯平台，可能会有相关报道。
2025-02-26
Deepseek目前已在电商行业应用落地的场景有哪些？
DeepSeek 在电商行业已应用落地的场景包括： 电商商品策划：如“电商商品策划 DeepSeek 大师版｜一键领取同款多维表格模板”。 商品链接分析：如“商品链接分析工具”。 电商产品上架规划：如“电商产品上架规划”。 您可以通过以下链接获取更详细的信息：
2025-02-26
国产ai，除了deepseek能力最强，如元宝ai，文言一心，kimi，纳米ai，通义等，哪个能力最强
以下是关于国产 AI 产品在 2025 年 1 月的一些榜单情况： 在国内流量榜中，排名依次为：deepseek、豆包、Kimi、文心一言、deepseek 开放平台、百度 AI 助手、阿里通义、纳米 AI 搜索、秘塔 AI 搜索。 在国内月活榜中，排名依次为：deepseek、豆包、deepseek 开放平台、Kimi、百度 AI 助手、文心一言、知乎直答、纳米 AI 搜索、沉浸式翻译。 需要注意的是，不同 AI 产品在不同方面可能具有各自的优势，其能力的强弱也会因具体应用场景和用户需求而有所不同。
2025-02-26
目前市面上的文心一言，通义，deepseek等，用于写作效果如何
目前市面上的文心一言、通义、DeepSeek 等用于写作的效果各有特点： 文心一言（百度）：大语言模型，可用以文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成。 通义（阿里巴巴）：在特定领域和任务上表现出卓越的能力。 DeepSeek：在文字能力上表现突出，尤其在中文场景中高度符合日常、写作习惯，但在专业论文总结方面稍弱。数学能力经过优化表现不错，编程能力略逊于 GPT。 需要注意的是，不同模型的效果会因用户的具体需求和使用场景而有所差异。
2025-02-26
deepseek promat
DeepSeek 是当前在 AI 领域表现出色的模型。 其官网发声渠道包括微信公众号：DeepSeek，小红书：@DeepSeek（deepseek_ai），X。 DeepSeek 深夜发布了大一统模型 JanusPro，将图像理解和生成统一在一个模型中。该模型是一种新型的自回归框架，通过将视觉编码解耦为独立的路径解决了先前方法的局限性，利用单一的统一变压器架构进行处理，缓解了视觉编码器在理解和生成中的角色冲突，增强了框架的灵活性，超越了之前的统一模型，匹配或超过了特定任务模型的性能，成为下一代统一多模态模型的有力候选者。其模型（7B）和模型（1B）的相关链接分别为。 DeepSeek 爆火，具有价格亲民、实力超群的特点，是智慧开源领航者，实时联网深度推理双冠王，用技术普惠重新定义了 AI 边界，在 Appstore 排行第一，导致算力股大跌。 DeepSeek 的成功有其独特之处，开源永远是正确的。聪明的年轻 AI 研究人员、研究机构的氛围、开源社区的分享和交流，提高了其在全球 AI 领域的影响力和声望。过去一年，中国的开源大模型在全球 AI 研究和产品方面赢得了不少尊敬，中国的开源大模型在开源程度上更为彻底，容易被研究人员和开发者直接使用。国际 AI 界特别是硅谷认为中国大模型的代表玩家是 DeepSeek 和阿里巴巴，而我们自己认为是其他一些模型。客观地说，就国际 AI 界特别是硅谷能公正、积极地看待中国 AI 创新能力和对全球社区的贡献方面，DeepSeek 和阿里巴巴们做得更多。
2025-02-26
如何获取DeepSeek R1 满血版且能联网
获取 DeepSeek R1 满血版且能联网的方法如下： 1. 拥有扣子专业版账号：如果您还是普通账号，请自行升级或注册专业号后使用。 2. 开通 DeepSeek R1 大模型： 访问地址：https://console.volcengine.com/cozepro/overview?scenario=coze 打开火山方舟，找到开通管理，找到 DeepSeek R1 模型，点击开通服务。 添加在线推理模型，添加后在扣子开发平台才能使用。添加过程包括添加模型和完成接入。 3. 创建智能体：点击创建，先完成一个智能体的创建。 此外，您还可以参考以下教程获取更多信息： 教程地址：
2025-02-26
如何本地化部署deepseek
本地化部署 DeepSeek 的步骤如下： 1. 拥有扣子专业版账号：如果您还是普通账号，请自行升级或注册专业号后使用。开通成功后会显示相应状态。 2. 开通 DeepSeek R1 大模型：访问地址 https://console.volcengine.com/cozepro/overview?scenario=coze ，打开火山方舟，找到开通管理，找到 DeepSeek R1 模型，点击开通服务。添加在线推理模型，添加后在扣子开发平台才能使用。添加过程包括添加模型和完成接入。 3. 创建智能体：点击创建，先完成一个智能体的创建。 需要注意的是，本地部署的版本能作为替补，但很难作为长期使用的版本。DeepSeek 具有三种含义指向，包括 deepseek 公司（深度求索）、deepseek 网站和手机应用，以及有推理功能的 deepseek R1 大模型（权重文件开源，可本地部署）。
2025-02-11
deepseek的本地化部署对于软硬件的具体要求
DeepSeek 的本地化部署对于软硬件的具体要求如下： 系统：Windows 7 以上（不建议使用 XP 系统）。 显卡要求：NVDIA 独立显卡且显存至少 4G 起步。 硬盘：留有足够的空间，最低 100G 起步（包括模型）。 内存和显存配置： 生成文字大模型： 最低配置：8G RAM + 4G VRAM 建议配置：16G RAM + 8G VRAM 理想配置：32G RAM + 24G VRAM（如果要跑 GPT3.5 差不多性能的大模型） 生成图片大模型（比如跑 SD）： 最低配置：16G RAM + 4G VRAM 建议配置：32G RAM + 12G VRAM 生成音频大模型： 最低配置：8G VRAM 建议配置：24G VRAM 需要注意的是，mac 系统、AMD 显卡、低显卡的情况也可以安装使用，但功能不全，出错率偏高，严重影响使用体验，个人建议升级设备或者采用云服务器玩耍。最低配置可能运行非常慢。
2025-02-06
ai本地化部署
AI 本地化部署主要包括以下方面： 线上和线下本地部署的 AI 特点： 线上 AI 出图速度快，不吃本地显卡配置，无需下载大模型，能看他人作品，但出图尺寸受限。 线下部署可添加插件，不卡算力，出图质量高，但使用时电脑易宕机，配置不高可能爆显存导致出图失败。 线上和线下平台的结合使用： 线上用于找参考、测试模型。 线下作为主要出图工具。 智谱 BigModel 共学营第二期微信助手本地电脑环境部署（以 Windows 为例）： 程序在本地运行，关闭窗口进程结束，若要持续使用需保持窗口打开和运行。 若突然不管用，可点击窗口并按空格，因选中状态下 powershell 窗口不继续执行。 完成部署后： 登录成功给微信发送消息可看到正常回复。 可在智谱清流更改 AI 功能或人设，即时生效。 对文件内代码更改需重新打印登陆二维码，在“文件”的【终端】输入 python app.py 重新扫码登录。 无手机登录可用夜神模拟器模拟。 报错“wxsid”可能因微信未实名，实名即可。 制作完成后 24 小时内会掉线一次，重新登录即可，先不要急着加好友。
2025-01-31
如何本地化部署一个ai助手
本地化部署一个 AI 助手可以参考以下几种方式： 1. 在网站上增加 AI 助手： 搭建示例网站： 创建应用：点击打开函数计算应用模板，参考相关选择直接部署、填写百炼应用 ID 以及 APIKEY，其他表单项保持默认，点击创建并部署默认环境，等待项目部署完成（预计耗时 1 分钟）。 访问网站：应用部署完成后，在应用详情的环境信息中找到示例网站的访问域名，点击即可查看，确认示例网站已经部署成功。 为网站增加 AI 助手： 增加 AI 助手相关代码：回到应用详情页，在环境详情的最底部找到函数资源，点击函数名称，进入函数详情页。在代码视图中找到 public/index.html 文件，取消相关位置的代码注释。最后点击部署代码，等待部署完成。 验证网站上的 AI 助手：重新访问示例网站页面以查看最新效果，网站的右下角会出现 AI 助手图标，点击即可唤起 AI 助手。 2. 从 LLM 大语言模型、知识库到微信机器人的全本地部署（以 windows10 系统为例）： 本地 Hook 或 COW 机器人（二选一，建议先选择 COW）： 注意：本教程完成后，程序将在您的电脑本地运行，假如关掉了窗口，进程也就结束。所以，如果想让 AI 持续使用，就必须保持窗口打开和运行，也就是电脑不能关。 安装环境： 点击电脑“系统”，直接输入“cmd”，点击回车，打开命令窗口。 在命令窗口中，粘贴入相关代码，确认是否有 python 和 pip。 如果没有，先进行 python 的安装，可点击下载：。 部署项目：下载 COW 机器人项目，解压缩。 3. 把大模型接入小米音箱（node.js）： 第四步：填写 API 服务： 智普：接口地址：https://open.bigmodel.cn/api/paas/v4，模型：glm4flash。 硅基：选择 AI 服务为自定义，接口地址：https://api.siliconflow.cn/v1。 其他模型的 API 端口请参考官方文档：https://migptgui.com/docs/apply/。 第五步：语音服务：官方说明：https://migptgui.com/docs/faqs/tts。 第六步：启动服务：在最上方可导出编辑的内容，格式为 json 格式，如果改错了可以导入之前保存的配置。单击启动，回到 powshell 界面。每次调整设置都需要重置后重新启动。建议回答完毕后增加结束的提示语，可以提高连续对话的稳定性。官方常见问题文档：https://migptgui.com/docs/faqs/noreply。
2025-01-05
能够本地化部署的AI文字助手
以下是关于本地化部署的 AI 文字助手以及相关排版和润色工具的信息： 本地化部署的 AI 文字助手： 在让 AI 助手能准确回答问题之前，可先快速将其集成到网站中。 1. 搭建示例网站： 创建应用：点击打开函数计算应用模板，参考相关选择直接部署、填写百炼应用 ID 以及 APIKEY，其他表单项保持默认，点击创建并部署默认环境，等待项目部署完成（预计耗时 1 分钟）。 访问网站：应用部署完成后，在应用详情的环境信息中找到示例网站的访问域名，点击查看确认部署成功。 2. 为网站增加 AI 助手： 增加 AI 助手相关代码：回到应用详情页，在环境详情底部找到函数资源，点击函数名称进入函数详情页，在代码视图中找到 public/index.html 文件，取消相关位置的代码注释，最后点击部署代码等待完成。 验证网站上的 AI 助手：重新访问示例网站页面查看最新效果，会发现网站右下角出现 AI 助手图标，点击唤起。 AI 文章排版工具： 主要用于自动化和优化文档布局和格式，特别是处理学术论文和专业文档。一些流行的工具包括： 1. Grammarly：不仅是语法和拼写检查工具，还提供排版功能，改进文档风格和流畅性。 2. QuillBot：AI 驱动的写作和排版工具，改进文本清晰度和流畅性。 3. Latex：广泛用于学术论文排版，使用标记语言描述格式，有许多 AI 辅助的编辑器和插件简化排版过程。 4. PandaDoc：文档自动化平台，使用 AI 帮助创建、格式化和自动化文档生成，适合商业和技术文档。 5. Wordtune：AI 写作助手，重新表述和改进文本，使其更清晰专业。 6. Overleaf：在线 Latex 编辑器，提供丰富模板和协作工具，适合学术写作和排版。 选择合适的工具取决于具体需求，如文档类型、出版标准和个人偏好。对于学术论文，Latex 和 Overleaf 受欢迎；对于一般文章和商业文档，Grammarly 和 PandaDoc 等可能更适用。 文章润色工具： 常见的有： 1. Wordvice AI：集校对、改写转述和翻译等功能于一体，基于大型语言模型提供全面的英文论文润色服务。 2. ChatGPT：由 OpenAI 开发的大型语言模型，可用于多方面写作辅助。 3. Quillbot：人工智能文本摘要和改写工具，可用于快速筛选和改写文献资料。 4. HyperWrite：基于 AI 的写作助手和大纲生成器，帮助写作前头脑风暴和大纲规划。 5. Wordtune：AI 驱动的文本改写和润色工具，优化文章语言表达。 6. Smodin：提供 AI 驱动的论文撰写功能，可根据输入生成符合要求的学术论文。 这些 AI 工具涵盖文章润色的各个环节，可提高写作效率和质量，科研人员和学生可根据自身需求选择。 请注意，以上内容由 AI 大模型生成，请仔细甄别。
2025-01-05
能够本地化部署的AI助手
以下是关于能够本地化部署的 AI 助手的相关信息： 聊天对话类 AI 产品 ChatGPT： 由 OpenAI 开发，是国际 AI 领域的明星产品，家喻户晓。 开创性强，是首批向公众开放的大规模商用 AI 对话系统之一，掀起 AI 革命，改变人们对 AI 认知，为技术发展指明方向。 用户体验精心设计，界面简洁直观，交互流畅自然，新手也能轻松上手，降低使用门槛，普及 AI。 技术实力强，背后的 GPT 系列模型性能和能力领先，语言理解深度和生成内容质量高，能应对复杂任务和挑战。 局限性：不再是市场唯一顶级选择，其他产品在特定领域超越其表现；国内用户使用可能有网络连接问题，影响体验。 AI 工具使用方法： 市面上有线上和线下本地部署两种 AI。 线上优势：出图速度快，不吃本地显卡配置，无需下载大模型，能看他人作品，但出图最高 1024×1024 左右，制作横板、高清图片受限。 线下优势：可添加插件，不卡算力，出图质量高，但使用时电脑基本宕机，配置不高可能爆显存导致出图失败。 充分发挥线上和线下平台优势：线上找参考、测试模型，线下作为主要出图工具。 在线上绘图网站绘图广场找想要的画风，点击创作会自动匹配模型、lora 和 tag。 截取游戏人物底图，将线上有限算力堆在人物身上，多批次、多数量尝试不同画风，得出符合游戏的模型+lora 组合，在 C 站下载对应模型到本地加载部署后正式生图。 本地部署资讯问答机器人： 对于期望在本地环境利用 AI 技术搭建 RAG 系统的用户，有实际操作价值的参考方案。
2025-01-05
通义千问私有化部署方案
以下是关于通义千问私有化部署的相关方案： 1. 在 FastGPT+OneAPI+COW 框架下的部署： 回到宝塔，选择 Docker（若显示“当前未安装”则进行安装，否则无需此步）。 点击确定，等待安装完成，完成后刷新页面确认安装成功。 打开左侧【终端】，粘贴两行命令验证 Docker 是否可用。 一条一条复制并粘贴相关命令完成安装。 访问 OneAPI，地址为：http://这里改成你自己宝塔左上角的地址:3001/（举例：http://11.123.23.454:3001/），账号默认 root，密码 123456。 点击【渠道】，类型选择阿里通义千问，名称随意。 将千问里创建的 API Key 粘贴到秘钥里，点击确认。 点击【令牌】【添加新令牌】，名称随意，时间设为永不过期、额度设为无限额度，点击【提交】。 点击【令牌】，复制出现的 key 并保存。 2. 在 Langchain+Ollama+RSSHub 框架下的部署： Ollama 支持包括通义千问在内的多种大型语言模型，适用于多种操作系统，同时支持 cpu 和 gpu。 可通过 https://ollama.com/library 查找模型库，通过简单步骤自定义模型，还提供了 REST API 用于运行和管理模型及与其他应用程序的集成选项。 访问 https://ollama.com/download/ 进行下载安装，安装完之后确保 ollama 后台服务已启动。 3. 在 0 基础手搓 AI 拍立得框架下的部署： 可以选择通义千问作为模型供应商，其指令灵活性比较丰富，接口调用入门流程长一些，密钥安全性更高。接口调用费用为：调用：¥0.008/千 tokens，训练：¥0.03/千 tokens。可参考 。
2025-02-26
AI模型私有化部署
AI 模型私有化部署具有以下特点和情况： 挑战方面： 在许多中小型行业，如金融、医疗和法律行业，由于对数据私密性要求极高，客户隐私敏感度高，往往需要私有化部署场景，这大大增加了企业培训的难度。 访问 GPT 有门槛，国企类、体制类的合作伙伴可能受限，需要寻找更易于接入的国产模型作为替代方案，如智谱等。 工程化落地难，企业知识库大部分卡在工程问题上，真正能落地的不多，数据清理部分难度较大，技术能力要求比想象中更高。例如某金融企业希望使用大模型构建 AI 智能问答机器人并私有化部署，但因自身规模不大且无数字化系统，实际落地成本可能不比传统人力成本节省更多。 经验分享方面： 构建企业知识库是常见需求，一种普遍解决方案是结合企业私有数据与 RAG 模型的私有化部署。如有特殊需求，还可进行模型的 Finetuning（微调）以优化性能。 基础模型提供推理提示，RAG 用于整合新知识，实现快速迭代和定制化信息检索。通过 Finetuning 可增强基础模型的知识库、调整输出和教授更复杂指令，提高模型整体性能和效率。 360 愿意为有能力的企业赠送免费的私有化部署通用大模型，其可解决隐私泄露和数据流失问题，满足科普和一些通用需求，如办公等。同时提供 360AI 办公的会员服务，围绕办公营销需求做了很多工具，并将其场景化。
2025-02-26
如何部署本地NOTION AI工具
部署本地 NOTION AI 工具需要考虑以下几个方面： 1. 开始方式： 本地部署：如果您的电脑是 M 芯片的 Mac 电脑（Intel 芯片出图速度非常慢，因此不建议）或者 2060Ti 及以上显卡的 Windows 电脑，可以选择本地部署。强烈建议在配有 N 卡的 Windows 电脑上进行。 在线平台：对于电脑不符合要求的小伙伴可以直接使用在线工具，在线工具分为在线出图和云电脑两种，前者功能可能会受限、后者需要自己手动部署，大家根据实际情况选择即可。 配台电脑：非常不建议一上来就配主机，因为大概率会变成游戏机或者吃灰（土豪请随意）。玩几个月后还对 AI 有兴趣的话再考虑配个主机。主机硬盘要大，显卡预算之内买最好，其他的随意。 2. 平台选择： 线上平台：出图速度快，不吃本地显卡的配置，且无需自己下载动辄几个 G 的模型，还能看其他创作者的制作的涩图，但为了节约算力成本他们只支持出最高 1024X1024 左右的图，制作横板、高清等图片就会受限。 线下部署：可以自己添加插件，不卡算力，出图质量高于线上平台，但是使用期间电脑基本处于宕机状态，如果配置不高的话还会出现生成半天之后爆显存的情况，导致出图失败。 3. 具体部署步骤（以接入微信为例）： 下边将出现代码，复制的时候，注意复制全。 代码我已经分好步骤，每次只需要粘贴一行，然后点击一次回车。 回车后，只有最左边显示中括号对话前缀时，不要操作。 如果发现 ctrl+v 粘贴不进去，试试 shift+ctrl+v 粘贴。 点击菜单中，下边的“终端”，然后开始把代码粘贴进入。 第一步：cd/root||exit 1 第二步：下方两行粘贴进入，然后点击回车，等待下载完成。（如果这里有了卡点，进行不下去，可能是因为服务器网络问题，去拉取的时候下载不全，可以复制网址，手动去下载到电脑上。然后进入文件夹，找到 root 文件夹，把下载的文件上传进去就好了。） 2.2、再粘贴下方代码，出现下图，就代表在执行中了。 第三步：rm f Anaconda32021.05Linuxx86_64.sh 第四步：/root/anaconda/bin/conda create y name AI python=3.8 第五步：echo 'source /root/anaconda/bin/activate AI' >> ~/.bashrc 第六步：执行完成后。刷新一下，重新进入终端，您会看到，最左侧出现了（AI）的字符。如果出现了，那么恭喜您。 第七步：继续，一行一行依次粘贴，依次回车。
2025-02-26
如何在MacBook上部署AI工具
在 MacBook 上部署 AI 工具的方法如下： 方法一：接入微信 1. 打开菜单中的“终端”。 2. 按照以下步骤依次粘贴代码并回车： 第一步：cd/root||exit 1 第二步：粘贴下方两行代码，等待下载完成。若有卡点，可能是服务器网络问题，可手动下载文件并上传至 root 文件夹。 第三步：rm f Anaconda32021.05Linuxx86_64.sh 第四步：/root/anaconda/bin/conda create y name AI python=3.8 第五步：依次粘贴并回车：echo'source /root/anaconda/bin/activate AI'>>~/.bashrc 3. 执行完成后，刷新重新进入终端，若最左侧出现“（AI）”字符，则部署成功。 方法二：安装 Trae 1. 科学上网，因为 Trae AI 官网部署在海外，且需要使用海外的大模型。 2. 在官网直接点击下载，Trae 会自动识别电脑芯片。 3. 对于 Mac，将下载完后的左侧 Trae 应用拖动到右侧文件夹内；对于 Windows，双击 Trae 图标完成安装。 4. 安装完成后，点击图标启动，进行简单设置，如选择主题背景和默认语言为中文，根据情况选择“Skip”选项等。 5. 选择合适的登录方式，如 Google 账号或 Github 账号（推荐注册 Github 账号：https://github.com/ ）。 方法三：选择合适的平台 目前市面上有线上和线下本地部署的两种 AI： 线上的优势为出图速度快，不吃本地显卡配置，无需下载大模型，能看其他创作者的作品，但出图分辨率有限。 线下部署的优势为可添加插件，不卡算力，出图质量高，但使用时电脑基本宕机，配置不高可能出问题。 可充分发挥线上和线下平台的优势，线上用于找参考、测试模型，线下作为主要出图工具。例如，在线上绘图网站的绘图广场上发现想要的画风，点击创作获取模型和标签，截取游戏人物底图，多次尝试不同画风得出合适的模型和组合，最后在 C 站（https://civitai.com/ ）下载对应模型到本地加载部署后开始生图。
2025-02-25
deepseek如何本地部署
以下是关于 DeepSeek 本地部署的相关信息： 第三期「AI 实训营」中，02 月 26 日 20:00 的课程涉及“人工智能平台 PAI 篇：本地部署满血版 DeepSeek”，包括 DeepSeek R1 技术原理、解锁 DeepSeek 的不同玩法（如问答助手、蒸馏、微调）以及实战演练（DeepSeek R1 满血版快速部署和蒸馏训练），相关课程文档为 。 韦恩提供的方法： 核心路径是通过工作流+DeepSeek R1 大模型，实现联网版的 R1 大模型。 拥有扣子专业版账号，如果是普通账号，请自行升级或注册专业号后使用。 开通 DeepSeek R1 大模型，访问地址：https://console.volcengine.com/cozepro/overview?scenario=coze 。打开火山方舟，找到开通管理，找到 DeepSeek R1 模型，点击开通服务。添加在线推理模型，添加后在扣子开发平台才能使用。 创建智能体，点击创建，先完成一个智能体的创建。 DeepSeek 大模型，尤其是指有推理功能的 DeepSeek R1 大模型，权重文件开源，可本地部署。
2025-02-25
本地部署Deepseek如何微调呢
对于本地部署 DeepSeek 的微调，以下是一些相关信息： 对于企业级部署，首先要根据实际业务场景评估所需部署的模型规格以及所需的服务器资源，预估完服务器资源后，还需评估业务场景是否需要二次开发模型。如果只是简单微调模型就能符合业务需求，使用 Ollama、LM Studio、GTP4All 或许可以满足诉求；若需要定制化开发模型，则要考虑进行模型的原生部署。 关于微调的方法，LoRA/QLoRA 论文指出其是对模型进行廉价微调的可行方法，如 。 另外，DeepSeek 模型如 JanusPro 有特别的训练法，先进行预训练，然后老师手把手教（监督微调），最后用“精华浓缩法”保存最好的学习成果。
2025-02-23