私有化部署大模型的教材

以下是关于 Dify 私有化部署的相关信息： 1. 部署步骤： 通过云服务器进行部署，相关命令在宝塔面板的终端安装，例如在/root/dify/docker 目录下的 dockercompose 文件。 检查运行情况，若 nginx 容器无法运行，可能是 80 端口被占用，可将终端输出的代码粘贴给 AI 以解决。 在浏览器地址栏输入公网 IP（去掉宝塔面板地址栏后的:8888），随便填写邮箱密码建立知识库并进行设置。 2. 模型选择与配置： 可以选择国内有免费额度的模型，如智谱 AI。 以智谱 AI 为例，在其官网用手机号注册，添加 API keys 并查看免费额度，将钥匙复制保存。 随便创建应用，可先选择智谱 glm4 测试，然后点发布。 创建并复制 api 秘钥。 3. Dify 特点： 作为开源应用，易用性出色且功能强大，安装过程简单快捷，熟练用户约 5 分钟可在本地完成部署。 支持本地部署和云端应用，能应对工作流、智能体、知识库等。 本地部署需自行处理模型接入等问题，包括购买 API、接入不同类型模型，构建个人知识库时还需考虑数据量、嵌入质量和 API 费用等因素。

以下是关于使用 LLM 分析企业私有化数据及工具推荐的相关内容： RAG 加速器提供了数据抽取服务，这是基于 LLM 的解决方案。在利用 LLM 进行信息抽取时，需要了解构建抽取服务的基本组件和要点。 实现过程中，有两个简单但强大的思路可以提升性能： 1. 确保 LLM 以正确的格式回应。函数调用已成为确保 LLM 严格输出特定格式的新且相对靠谱的方法，可参考结构化输出文档，其中高层次的 LangChain API 展示了不同 LLM 如何调用工具和函数。 2. 使用参考样例。尽管没有样例也能设置抽取问题，但实际操作中，将输入和对应输出的样例纳入其中通常大有裨益，有时这些样例比指示本身更能有效指导 LLM 处理特定情况。在提取用例文档中，可以找到更多细节，助您从 LLMs 中提取更好的性能。

以下是关于私有化部署的大模型工具的相关内容： Fooocus 部署： 大模型（base 和 Refiner）默认放在：Fooocus_win64_1110\\Fooocus\\models\\checkpoints LoRA 模型默认放在：Fooocus_win64_1110\\Fooocus\\models\\loras Fooocus 程序默认用到 3 个 SDXL 的模型，包括一个 base、一个 Refiner 和一个 LoRA。若单独安装，需下载三个模型： SDXL 基础模型：https://huggingface.co/stabilityai/stablediffusionxlbase1.0/resolve/main/sd_xl_base_1.0_0.9vae.safetensors refiner 模型：https://huggingface.co/stabilityai/stablediffusionxlrefiner1.0/resolve/main/sd_xl_refiner_1.0_0.9vae.safetensors LoRA 模型：https://huggingface.co/stabilityai/stablediffusionxlbase1.0/resolve/main/sd_xl_offset_examplelora_1.0.safetensors 若部署了 SD 秋叶包，可共用模型（大模型和 LoRA），在 Fooocus_win64_1110\\Fooocus\\modules\\path.py 中用 text 记事本打开，修改路径为秋叶包模型对应的路径，如大模型路径：sdwebui\\models\\Stablediffusion\\SDXL；LoRA 模型路径：sdwebui\\models\\lora。配置好后点击 run.bat 文件启动。 SDXL 本地部署： 大模型分为两个部分：第一部分，base + refiner 必须下载，base 用于文生图操作，refiner 用于对生成的模型细化以生成细节更丰富的图片；第二部分是配套的 VAE 模型，用于调节图片的画面效果和色彩。 可关注公众号【白马与少年】，回复【SDXL】获取模型下载链接。 在 webUI 中使用 SDXL 大模型，需在秋叶启动器中将 webUI 版本升级到 1.5 以上，将模型放入对应文件夹，base 和 refiner 放在“……\\sdwebuiakiv4.2\\models\\Stablediffusion”路径下，vae 放在“……\\sdwebuiakiv4.2\\models\\VAE”路径下，启动 webUI 后可在模型中看到 SDXL 模型。 Langchain + Ollama + RSSHub 实现 RAG 部署： 安装完后，确保 ollama 后台服务已启动（在 mac 上启动 ollama 应用程序，在 linux 上通过 ollama serve 启动），可通过 ollama list 确认。 可通过 ollama 命令下载模型，如 Gemma（Google 推出的轻量级模型）、Mistral（欧洲法国 Mistral AI 团队推出的大模型）、Mixtral（Mistral AI 团队推出的 87B 的 MoE 模型）、Qwen（阿里巴巴推出的大模型）。

AI助手或智能代理（Agent）的部署可以是私有化部署，也可以是公有化部署，具体取决于应用场景、需求、安全考虑以及成本效益等因素。 1. 私有化部署： 在企业或组织的内部网络中部署，通常用于处理敏感数据或需要高度定制化的服务。 提供更高的安全性和隐私保护，因为系统不公开于互联网。 允许更精细的控制和管理，适合有特定业务流程和需求的企业。 2. 公有化部署： 在云服务提供商的基础设施上部署，通过互联网提供服务。 易于扩展，维护成本较低，因为云服务商负责大部分的维护工作。 适用于面向公众的服务，如在线客服机器人、开放平台的API服务等。 选择哪种部署方式取决于以下因素： 数据敏感性：如果处理的数据非常敏感，私有化部署更有利于保护数据安全。 成本：私有化部署可能需要更多的初始投资，而公有化部署可能带来更高的灵活性和可扩展性。 维护能力：如果企业有足够的技术力量来维护私有化部署的系统，这可能是一个更好的选择。 定制化需求：私有化部署更容易根据企业的特定需求进行定制。 法规遵从性：某些行业或地区的法律法规可能要求企业必须进行私有化部署。 在实际应用中，一些企业可能会选择混合部署模式，即在私有云中部署核心的、敏感的业务组件，同时将一些非核心或较不敏感的组件部署在公有云上，以此来平衡安全性、成本和灵活性。

在微信中私有化部署开源模型通常指的是将开源的人工智能模型部署到微信服务或微信小程序中，以便在微信环境中使用这些模型的功能。以下是一些基本步骤和考虑因素： 1. 选择合适的模型：根据你的需求选择合适的开源模型。例如，如果你需要一个文本处理模型，可能可以选择GPT系列模型。 2. 模型转换：一些模型可能需要转换为适合移动设备的格式，如使用TensorFlow Lite或Core ML等格式。 3. 微信小程序开发：如果你想在微信小程序中使用模型，需要使用微信小程序的开发框架进行开发。小程序提供了云开发功能，可以部署一些后端服务。 4. 服务器部署：对于需要较高计算能力的模型，可能需要在服务器上部署。你可以选择自己的服务器或使用云服务提供商的服务器。 5. API开发：将模型包装成API服务，这样微信小程序可以通过HTTP请求与模型交互。 6. 微信小程序与API集成：在小程序中使用微信提供的API接口与后端模型服务通信。 7. 安全性：确保你的API服务是安全的，使用HTTPS协议，并考虑使用微信的OAuth2.0进行用户认证。 8. 性能优化：根据需要对模型进行优化，以适应移动设备的计算能力限制。 9. 测试：在微信环境中对模型进行充分的测试，确保它在小程序中的性能和准确性。 10. 遵守微信政策：确保你的部署遵守微信的相关政策和法规，尤其是关于用户数据和隐私的部分。 11. 用户界面：为微信小程序设计用户界面，使用户能够方便地与模型交互。 12. 部署上线：完成开发和测试后，将你的小程序提交给微信审核，审核通过后即可上线。 请注意，私有化部署涉及到后端服务的搭建和前端的集成，可能需要一定的技术背景。如果你不熟悉服务器管理和API开发，可能需要寻求专业的开发人员帮助。同时，微信平台对于小程序有特定的技术要求和政策限制，需要在开发过程中严格遵守。

以下是清华大学关于 DeepSeek 的相关培训教材信息： 《》是清华大学新闻与传播学院新媒体研究中心出品的指南。详细阐述了 DeepSeek 的功能，包括智能对话、文本生成、代码生成、自然语言理解等，并探讨了如何使用 DeepSeek，包括推理模型与通用模型的区别、提示语设计策略以及如何从入门到精通。文章还介绍了提示语设计的核心技能、常见陷阱及应对方法，旨在帮助用户更好地掌握 AI 工具的使用，提升工作效率和创新能力。

以下是为您推荐的关于 Dify 的网上教材： 1. 在 Dify 的官网，有一篇手把手教您将 Dify 应用接入微信生态的教程，包括创建聊天助手应用、下载 Dify on WeChat 项目、填写配置文件、把基础编排聊天助手接入微信、把工作流编排聊天助手接入微信、把 Agent 应用接入微信等步骤。更多内容请访问原文：https://docs.dify.ai/v/zhhans/learnmore/usecases/difyonwechat 2. 《》，介绍了如何一键部署自己的 Dify 网站，提供了腾讯云一键部署和云服务器 Docker 部署两种方案，用户需要配置模型供应商的信息，成功保存设置后可创建 Agent 进行测试。 3. AIGC Weekly21 中提到：，GooCarlos 开发的 Dify 是一款易于使用的 LLMOps 平台，允许团队基于语言模型（如 GPT4）开发和运营 AI 应用。能在几分钟内创建 AI 驱动的应用程序，将自然语言转换为 SQL，转换编程语言，从文本中汇总关键信息等，适用于多种应用场景。

以下是为您提供的通过 AI 工具将教材内容生成教案和 PPT 的方法： 1. 使用 COZE 应用 访问地址：https://www.coze.cn/s/iDsBwYLF/ 首页说明：启动页面有相关介绍。 生成教案：进入设计教案页面，等待执行完成后即可获得教案，教案是其他功能的基础。 趣味课堂：根据课文内容设计课堂问答卡和教学活动，采用寓教于乐的方式激发孩子学习兴趣。 课后作业：基于教学大纲和课本重点内容设计题目，包括生字词运用、阅读理解、写作等。 教案 PPT：PPT 内容基于生成的教学大纲，可能需要手动进行少许内容修正。若对大纲内容不满意，可重新生成大纲和 PPT。首先复制大纲内容，打开 kimi，选择 PPT；然后复制教案，在对话框粘贴，KIMI 会优化大纲，点击进去后选择喜欢的模版生成。但需注意，PPT 预览与下载可能需要充值。 2. 参考教师使用 AI 小技巧 减轻排版工作的压力。 生成打底的内容，减轻人写内容的工作。 文章生成 PPT 时，让 AI 帮忙摘要内容，生成大纲列表；主题生成 PPT 时，让 AI 根据主题扩充成大纲列表乃至具体内容。 在特定场景下可直接使用，如学生快速为小组展示配 PPT。 一些 PPT 生成工具（网站）： https://wenku.baidu.com ：百度文库，付费，质量好。 https://zhiwen.xfyun.cn/ ：讯飞智文，免费，引导好。 http://Chatppt.com ：付费，自动化程度高。 http://Mindshow.fun ：支持 Markdown 导入。 http://Gamma.app ：支持 Markdown 导入。 http://Tome.app ：AI 配图效果好。 剪映：图文成片，只需提供文案，自动配图配音。

以下是关于大学教材数据大模型的相关知识： 大模型通俗来讲，是输入大量语料，让计算机获得类似人类的“思考”能力，能够理解自然语言，进行文本生成、推理问答、对话、文档摘要等工作。 大模型的训练和使用过程可以类比为上学参加工作： 1. 找学校：训练大模型需要大量计算，GPU更合适，只有购买得起大量GPU的才有资本训练自己的大模型。 2. 确定教材：大模型需要的数据量特别多，几千亿序列（Token）的输入基本是标配。 3. 找老师：即用合适的算法讲述“书本”中的内容，让大模型更好理解Token之间的关系。 4. 就业指导：为了让大模型更好胜任某一行业，需要进行微调（fine tuning）指导。 5. 搬砖：就业指导完成后，正式干活，比如进行翻译、问答等，在大模型里称之为推导（infer）。 在LLM中，Token被视为模型处理和生成的文本单位，可以代表单个字符、单词、子单词，甚至更大语言单位，具体取决于所使用的分词方法（Tokenization）。Token是原始文本数据与LLM可以使用的数字表示之间的桥梁，在将输入进行分词时，会对其进行数字化，形成一个词汇表。 数字化便于计算机处理，为让计算机理解Token之间的联系，还需把Token表示成稠密矩阵向量，这个过程称为embedding，常见算法有： 基于统计：Word2Vec通过上下文统计信息学习词向量；GloVe基于词共现统计信息学习词向量。 基于深度网络：CNN使用卷积网络获得图像或文本向量；RNN/LSTM利用序列模型获得文本向量。 基于神经网络：BERT基于Transformer和掩码语言建模（Masked LM）进行词向量预训练；Doc2Vec使用神经网络获得文本序列的向量。 以Transform为代表的大模型采用自注意力（Selfattention）机制来学习不同token之间的依赖关系，生成高质量embedding。大模型的“大”指用于表达token之间关系的参数多，主要是模型中的权重（weight）与偏置（bias），例如GPT3拥有1750亿参数，其中权重数量达到这一量级，而词汇表token数只有5万左右。 常用的模型网站有： 下载模型后需要将之放置在指定的目录下，不同类型的模型放置目录不同。模型的类型可以通过检测。 大模型（Ckpt）：放入models\\Stablediffusion VAE模型：一些大模型需要配合vae使用，对应的vae同样放置在models\\Stablediffusion或models\\VAE目录，然后在webui的设置栏目选择。 Lora/LoHA/LoCon模型：放入extensions\\sdwebuiadditionalnetworks\\models\\lora，也可以在models/Lora目录 Embedding模型：放入embeddings目录

以下是使用 Coze 搭建一个关于自然语言课程期末复习指南智能体的步骤： 1. 访问 Coze 官网（https://www.coze.cn），注册并登录。 2. 点击页面左上角的⊕，通过【标准创建】填入智能体的基本信息。 3. 了解 Bot 开发调试界面： 人设与回复逻辑（左侧区域）：设定智能体的对话风格、专业领域定位，配置回复的逻辑规则和限制条件，调整回复的语气和专业程度。 功能模块（中间区域）： 技能配置： 插件：扩展智能体的专业能力，如计算器、日历等工具。 工作流：设置固定的处理流程和业务逻辑。 图像流：处理和生成图像的相关功能。 触发器：设置自动化响应条件。 知识库管理： 文本：存储文字类知识材料。 表格：结构化数据的存储和调用。 照片：图像素材库。 记忆系统： 变量：存储对话过程中的临时信息。 数据库：管理持久化的结构化数据。 长期记忆：保存重要的历史对话信息。 文件盒子：管理各类文档资料。 交互优化（底部区域）： 开场白：设置初次对话的问候语。 用户问题建议：配置智能推荐的后续问题。 快捷指令：设置常用功能的快速访问。 背景图片：自定义对话界面的视觉效果。 预览与调试（右侧区域）：实时测试智能体的各项功能，调试响应效果，优化交互体验。 4. 设定智能体的人设与回复逻辑后，为智能体配置对应的技能，以保证其可以按照预期完成目标任务。例如，以获取 AI 新闻的智能体为例，需要为它添加一个搜索新闻的接口来获取相关新闻。具体操作如下： 在智能体编排页面的技能区域，单击插件功能对应的+图标。 在添加插件页面，选择相关功能，然后单击新增。 修改人设与回复逻辑，指示智能体使用相应插件来搜索所需内容。 （可选）为智能体添加开场白，让用户更好地了解智能体的功能。开场白功能目前支持豆包、微信公众号（服务号）。 5. 配置好智能体后，在预览与调试区域中测试智能体是否符合预期。可单击清除图标清除对话记录。 6. 完成测试后，将智能体发布到社交渠道中使用。具体操作如下： 在智能体的编排页面右上角，单击发布。 在发布页面输入发布记录，并勾选发布渠道。 单击发布。 更多内容，请访问 Coze 官方文档： 英文版：https://www.coze.com/docs/welcome.html 中文版：https://www.coze.cn/docs/guides/welcome

在您所描述的这三个步骤中，将公式图片转为公式编辑器中可编辑的公式这一步骤可以借助 AI 来更简便地完成。目前有一些 AI 工具和技术能够对图片中的公式进行识别和转换，提高工作效率。但需要注意的是，AI 转换可能存在一定的误差，仍需要人工进行检查和修正。

对比不同大语言模型的性能需要考虑多个维度，包括但不限于以下方面： 1. 理解能力：评估对语言的语法、语义、上下文和隐含意义的理解程度。 2. 生成质量：检查生成文本的流畅性、相关性和准确性。 3. 知识广度和深度：掌握广泛主题的知识程度，以及对特定领域或话题的理解深度。 4. 泛化能力：处理未见过的任务或数据时的表现。 5. 鲁棒性：应对错误输入、对抗性输入或模糊不清指令的能力。 6. 偏见和伦理：生成文本时是否存在偏见，是否遵循伦理标准。 7. 交互性和适应性：在交互环境中的表现，包括对用户反馈的适应性和持续对话的能力。 8. 计算效率和资源消耗：考虑模型大小、训练和运行所需的计算资源。 9. 易用性和集成性：是否易于集成到不同应用和服务中，提供的 API 和工具的易用性。 为了进行有效的比较，可以采用以下方法： 1. 标准基准测试：使用如 GLUE、SuperGLUE、SQuAD 等标准的语言模型评估基准，它们提供统一的测试环境和评分标准。 2. 自定义任务：根据特定需求设计任务，评估模型在特定领域的表现。 3. 人类评估：结合人类评估者的主观评价，特别是在评估文本质量和伦理问题时。 4. A/B 测试：在实际应用场景中，通过 A/B 测试比较不同模型的表现。 5. 性能指标：使用准确率、召回率、F1 分数、BLEU 分数等性能指标来量化比较。 当前领先的大型语言模型的排行榜，例如聊天机器人竞技场，由伯克利的团队管理，根据 ELO 评级对不同语言模型进行排名，计算方式与国际象棋中的类似。在排行榜中，顶部多为专有模型，下方有开放权重的模型。 大语言模型的特点包括： 1. 架构：有 encoderonly、encoderdecoder、decoderonly 等，如 BERT 是 encoderonly 模型，google 的 T5 是 encoderdecoder 模型，众多 AI 助手多为 decoderonly 模型。 2. 数据和参数：预训练数据量大，往往来自互联网，包括论文、代码、公开网页等，参数多，如 OpenAI 在 2020 年发布的 GPT3 已达到 170B 的参数。

对比不同大语言模型的性能需要考虑多个维度，包括但不限于以下方面： 1. 理解能力：评估对语言的语法、语义、上下文和隐含意义的理解程度。 2. 生成质量：检查生成文本的流畅性、相关性和准确性。 3. 知识广度和深度：掌握广泛主题的知识程度，以及对特定领域或话题的理解深度。 4. 泛化能力：处理未见过的任务或数据时的表现。 5. 鲁棒性：应对错误输入、对抗性输入或模糊不清指令的能力。 6. 偏见和伦理：生成文本时是否存在偏见，是否遵循伦理标准。 7. 交互性和适应性：在交互环境中的表现，包括对用户反馈的适应性和持续对话的能力。 8. 计算效率和资源消耗：考虑模型大小、训练和运行所需的计算资源。 9. 易用性和集成性：是否易于集成到不同应用和服务中，提供的 API 和工具的易用性。 为了进行有效的比较，可以采用以下方法： 1. 标准基准测试：使用如 GLUE、SuperGLUE、SQuAD 等标准的语言模型评估基准，它们提供统一的测试环境和评分标准。 2. 自定义任务：根据特定需求设计任务，评估模型在特定领域的表现。 3. 人类评估：结合人类评估者的主观评价，特别是在评估文本质量和伦理问题时。 4. A/B 测试：在实际应用场景中，通过 A/B 测试比较不同模型的表现。 5. 性能指标：使用准确率、召回率、F1 分数、BLEU 分数等性能指标来量化比较。 当前领先的大型语言模型的排行榜，例如聊天机器人竞技场，由伯克利的团队管理，根据 ELO 评级对不同语言模型进行排名，计算方式与国际象棋中的类似。在排行榜中，顶部多为专有模型，下方有开放权重的模型。 大语言模型的特点包括： 1. 架构：有 encoderonly、encoderdecoder、decoderonly 等，如 BERT 是 encoderonly 模型，google 的 T5 是 encoderdecoder 模型，众多 AI 助手多为 decoderonly 模型。 2. 数据和参数：预训练数据量大，往往来自互联网，包括论文、代码、公开网页等，参数多，如 OpenAI 在 2020 年发布的 GPT3 已达到 170B 的参数。

大模型一体机是一个相对复杂的概念。通俗来讲，大模型是输入大量语料，让计算机获得类似人类的“思考”能力，能够进行文本生成、推理问答、对话、文档摘要等工作。其本质是两个文件：一个是参数文件，类似于问答机器人的“大脑镜像”，负责处理和生成文本信息；另一个是包含运行这些参数的代码文件。 大模型的训练和使用过程可以类比为上学参加工作： 1. 找学校：训练大模型需要大量计算，GPU 更合适，只有购买得起大量 GPU 的才有资本训练。 2. 确定教材：大模型需要的数据量特别多，几千亿序列（Token）的输入基本是标配。 3. 找老师：即用合适的算法讲述“书本”中的内容，让大模型更好理解 Token 之间的关系。 4. 就业指导：为了让大模型更好胜任某一行业，需要进行微调（fine tuning）指导。 5. 搬砖：就业指导完成后，进行如翻译、问答等工作，在大模型里称之为推导（infer）。 大模型的特点包括： 1. 预训练数据非常大，往往来自互联网上的论文、代码、公开网页等，一般用 TB 级别的数据进行预训练。 2. 参数非常多，如 Open 在 2020 年发布的 GPT3 就已达到 170B 的参数。 在架构方面，大模型有 encoderonly、encoderdecoder、decoderonly 等类型。目前常见的 AI 助手多采用 decoderonly 架构。

传统 AI、大模型、AGI 存在以下区别： 传统 AI： 语音技能 NLU 通常通过一系列规则、分词策略等训练而成。 运作逻辑规律可观测，具有 ifelse 式的逻辑性。 大模型： 凭借海量数据在向量空间中学习知识的关联性。 运作逻辑难以观测，脱离了 ifelse 的层面。 Transformer 是其底层结构，是一个大参数（千亿级别）的回归方程，底层是 function loss 损失函数，能在一定 prompt condition 情况下，repeat 曾经出现过的数据内容，实现“生成”能力。 大语言模型是一个 perfect memory，repeat 曾经出现的内容。与 Alpha Go 相比，Alpha Go 是增强学习模型，有推理能力，而大语言模型这块很弱。 AGI（通用人工智能）： 部分人觉得 LLM（大语言模型）具有 AGI 潜力，但 LeCun 反对。 目前对于能否到达 AGI 阶段尚不明确。 在公众传播层面： AIGC 指用 Stable Diffusion 或 Midjourney 生成图像内容，后来泛指用 AI 生成音乐、图像、视频等内容。 LLM 指 NLP 领域的大语言模型，如 ChatGPT。 GenAI 是生成式人工智能模型，国内官方政策文件使用这个词相对科学，涵盖了 LLM 和 AIGC。 公众传播一般会混用上述名词，但底层是 transformer 结构。

以下是一些在企业内部落地应用 AI 大模型工具的实践案例： 1. 阿里云百炼： 智能体应用：能够弥补大模型的不足，如回答私有领域问题、获取实时信息、回答专业问题等。适用于有企业官网、钉钉、微信等渠道，期望为客户提供产品咨询服务，以及缺少技术人员开发大模型问答应用的场景。典型场景包括私有领域知识问答、个性化聊天机器人、智能助手等。 内部业务助手：通过企业内部规章制度、部门结构、产品介绍等文档构建知识库，并借助 RAG 智能体实现内部知识问答功能。系统支持多源异构数据，并通过复杂文档解析和视觉增强技术，提升文档理解的准确性与深度。目前该功能已灰度上线，需提供 UID 并通过白名单进行开启。 2. 达摩院： AI 模特（虚拟换装）：支持虚拟换装、姿态编辑。 3. 电商零售： 推广文案写作：通过内置的多样化营销场景的文体模板，基于用户输入的创作主题以及参考素材，大模型即可为您生成对应的营销文案，为营销活动和宣传文案提供灵感和文案写作支持。 4. 泛企业： VOC 挖掘：是一个面向各类企业的 VOC 标签挖掘的工具。不论是用户的长短评论、帖子、还是用户和客服/销售的聊天记录、通话记录，都可以使用。通过选中或自定义标签，即可让大模型针对海量非结构化的 VOC 数据快速打标。相比于人工打标或规则打标准确率更高；对于业务标签变动频繁的情况，也能更敏捷、快速地影响。 5. 通义晓蜜：基于深度调优的对话大模型，为营销服类产品提供智能化升级所需的生成式摘要总结、质检、分析等能力应用。

以下是对您所提到的这些内容含义的解释： 大语言模型：是一种基于大量文本数据进行训练的语言处理模型，其工作原理包括训练数据、算力、模型参数等。在训练数据一致的情况下，模型参数越大能力越强。 多模态：指能够处理多种不同类型的数据模态，如文本、图像、音频等，并将它们融合进行理解和生成。 数据：是大语言模型训练和应用的基础，包括各种文本、图像、音频等信息。 算力：指用于支持大语言模型训练和运行的计算能力。 算法：是大语言模型实现各种功能的数学和逻辑方法。 预训练：在大语言模型中，先在大规模数据上进行无特定任务的初步训练。 微调：基于通用大模型，针对特定领域任务提供数据进行学习和调整，以适应特定领域的需求。 RAG：检索增强生成，通过引用外部数据源为模型做数据补充，适用于动态知识更新需求高的任务。其工作流程包括检索、数据库索引、数据索引、分块、嵌入和创建索引、增强、生成等步骤。 自注意力机制：是 Transformer 架构中的重要部分，能理解上下文和文本关联，通过不断检索和匹配来寻找依赖关系，处理词和词之间的位置组合，预测下一个词的概率。 Transformer：是大语言模型训练架构，用于翻译等任务，具备自注意力机制。 Token：在自然语言处理中，是文本的基本单位。 神经网络：是大语言模型的基础架构，模拟人脑神经元的连接和信息处理方式。 向量：在大语言模型中，用于表示文本等数据的数学形式。 Scaling Law：关于大语言模型规模和性能之间关系的规律。

以下是关于 DeepSeek 部署的相关内容： 《在 Azure AI Foundry 部署 DeepSeek 大模型全指南》（https://waytoagi.feishu.cn/wiki/RKK5wNbeHifSAXkAR5hcGYQmn5f?renamingWikiNode=false）：来自社区伙伴 Hua 的投稿，手把手指导您在微软 Azure AI Foundry 平台上完成 DeepSeek R1（671B）模型的完整部署流程，包含环境准备、资源管理、模型测试及 API 调用说明。 《突破 DeepSeek R1 能力天花板，火山引擎扣子+飞书一站式企业解决方案》（https://waytoagi.feishu.cn/wiki/RZE9wP94tiEO6bkU5cTcyecHnnb） 《羊毛快薅|字节火山上线了 DeepSeek 系列模型并悄悄更改了模型服务价格...》（https://waytoagi.feishu.cn/wiki/HzHSwEwtCiBmWrkRm6fc0J0Qneh）：所有用户享 50 万免费 Tokens+API 半价优惠！火山引擎上线了 DeepSeek 系列模型！咱们社区小伙伴做了零基础部署教程，5 分钟打造专属满血版 AI 助手，速度飞快！使用方法中附上了飞书多维表格的接入方法、Coze 的接入使用方法、网页插件的使用方法。 《刚刚，DeepSeek 官方发布 R1 模型推荐设置，这才是正确用法》（https://mp.weixin.qq.com/s/RA1mhAyQOoXD5XOULAGgbQ）：DeepSeek 官方下场推荐了部署 DeepSeekR1 的设置。DeepSeek 强调官方部署的版本跟开源版本模型完全一致。

以下是关于本地部署的一些原因： 对于只有特定设备（如只有一台 Mac 设备），且想灵活学习 AI 生图的情况，本地部署是最方便的。 如果电脑是 M 芯片的 Mac 电脑（Intel 芯片出图速度慢不建议）或者 2060Ti 及以上显卡的 Windows 电脑，可以选择本地部署，强烈建议在配有 N 卡的 Windows 电脑上进行。 本地部署测试方便，还可以尝试让其控制家里的智能家居。

如果您遇到 DeepSeek 老是显示“服务器繁忙，请稍后再试”且无法提升的情况，可以尝试以下方法： 1. 使用网页聊天： 安装插件：使用 Chrome 或 Microsoft Edge 浏览器，点击此链接安装浏览器插件并添加到拓展程序：https://chromewebstore.google.com/detail/pageassist%E6%9C%AC%E5%9C%B0ai%E6%A8%A1%E5%9E%8B%E7%9A%84web/jfgfiigpkhlkbnfnbobbkinehhfdhndo 打开聊天页面：点击右上角的插件列表，找到 Page Assist 插件，点击打开。 配置“DeepSeekR1”模型的 API key：基础 URL 为 https://ark.cnbeijing.volces.com/api/v3，填好之后点击保存，关掉提醒弹窗。 添加“DeepSeekR1”模型。 2. 完成上述操作后，您就可以愉快玩耍，无需担心“服务器繁忙”了，打开联网功能，还可以支持联网搜索使用 R1。

以下是关于 ComfyUI 本地部署安装的相关信息： ComfyUI 相比 WebUI，配置更低，系统资源占用更少，出图速度更快，最低可在小于 3G 的 GPU 上运行，甚至没有 GPU 光用 CPU 也可以运行，但速度极慢。SDXL 出来后提高了运行配置，最低需要 8GB 显存+32GB 运行内存，12GB 流畅运行，推荐 16GB 以上。运行内存最低 32GB，越高越好，最低配会经常爆显存。玩 SDwebui 和 ComfyUI 建议使用 6GB 以上显存的 NVIDIA 显卡（N 卡），内存在 16G 以上。硬盘会影响加载模型的速度，最好把软件和模型部署在 SSD 上。如果电脑能顺畅清晰地玩 3A 游戏，那玩 webui 和 ComfyUI 也没问题。配置上不封顶，根据自己的需求和预算来即可。 安装地址：https://github.com/comfyanonymous/ComfyUI 。可以下载安装包也可以直接 Git clone https://github.com/comfyanonymous/ComfyUI.git ，或者下载安装包 file:ComfyUI.zip ，下载安装包或者点击链接下载并解压至本地除 C 盘外的任意盘。然后找到文件名称为 run_nvidia_gpu 的文件双击并启动。启动完成即进入基础界面。 节点存放目录：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\custom_nodes 。 模型存放目录： 大模型：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\checkpoints 。 Lora：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\loras 。 Vae：D:\\COMFYUI\\ComFYUI_windows_portable\\ComfyUI\\models\\vae 。 已经安装了 SDWebUI 的同学可以通过修改文件路径和 WebUI 共用一套模型即可，这样就不用重复下载模型了。找到已安装好的 ComfyUI 目录文件下的 extra_model_paths.yaml.example 文件，将后缀.example 删除，然后右键用记事本打开。 您的电脑配置为 GPU：RX6600 8G，CPU：R5 5600，内存：DDR4 8G2，可能需要注意内存方面可能不太满足推荐配置，可能会影响运行效果。

以下是在电脑本地部署 DeepSeek 的步骤： 1. 拥有扣子专业版账号：如果您还是普通账号，请自行升级或注册专业号后使用。开通成功的样子如相关说明。 2. 开通 DeepSeek R1 大模型：访问地址：https://console.volcengine.com/cozepro/overview?scenario=coze 。打开火山方舟，找到开通管理，找到 DeepSeek R1 模型，点击开通服务。添加在线推理模型，添加后在扣子开发平台才能使用，具体添加过程包括添加模型和完成接入。 3. 创建智能体：点击创建，先完成一个智能体的创建。 此外，您还可以参考以下文章获取更详细的教程：《张梦飞：15 分钟零基础个人电脑部署 DeepSeekR1（无限制版）智能助手保姆级教程！》（https://waytoagi.feishu.cn/wiki/NjKBw4n8HikDZBkeyB4cDQVynKh?useEs6=0 ），该教程适用于完全没有 AI 部署经验的小白，详细介绍了如何在个人电脑上快速搭建 DeepSeekR1 本地 AI 助手，包括 Ollama 安装、DeepSeekR1 模型下载与运行、显存检查、终端指令操作、网页插件使用等环节，并提供了清晰的步骤图，确保 15 分钟内完成部署。

Coze 可以调用用户自己部署的大模型。例如： 在 Coze 上搭建工作流框架时，可通过“个人空间工作流创建工作流”进行操作，在编辑面板中拖入对应的大模型节点来实现各项文本内容的生成。 当在 COW 中直接调用千问的某一个大模型时，需要更改 key 和 model 等配置。获取 key 可参考相关的视频和图文教程，同时需要完成实名认证，否则可能出现报错。 在使用 Coze 做智能报表助手的过程中，也涉及到对大模型的运用，如将用户问题转换为 SQL 等。