Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

怎么用大模型构建一个属于我自己的助手

Answer

以下是用大模型构建属于自己的助手的几种方法：

  1. 在网站上构建：
    • 创建百炼应用获取大模型推理 API 服务：
      • 进入百炼控制台的我的应用，在页面右侧点击新增应用，选择智能体应用并创建。
      • 在应用设置页面，模型选择通义千问-Plus，其他参数保持默认，也可以输入一些 Prompt 来设置人设。
      • 在页面右侧提问验证模型效果，点击右上角的发布。
    • 获取调用 API 所需的凭证：
      • 在我的应用>应用列表中查看所有百炼应用 ID 并保存到本地。
      • 在顶部导航栏右侧，点击人型图标，点击 API-KEY 进入我的 API-KEY 页面，创建新 API-KEY 并保存到本地。
  2. 微信助手构建：
    • 搭建OneAPI，用于汇聚整合多种大模型接口，并获取白嫖大模型接口的方法。
    • 搭建FastGpt，作为知识库问答系统，将大模型接入用于回答问题，若不接入微信，搭建完成即可使用其问答界面。
    • 搭建chatgpt-on-wechat接入微信，配置 FastGpt 将知识库问答系统接入微信，建议先用小号以防封禁风险。
  3. 基于 COW 框架构建：
    • COW 是基于大模型搭建的 Chat 机器人框架，可将多模型塞进微信。
    • 基于张梦飞同学的更适合小白的使用教程：【保姆级】一步一图，手把手教你把 AI 接入微信副本。
    • 实现功能包括打造属于自己的 ChatBot（文本对话、文件总结、链接访问、联网搜索、图片识别、AI 画图等）、常用开源插件的安装应用。
    • 注意事项：
      • 微信端因非常规使用有封号危险，不建议主力微信号接入。
      • 只探讨操作步骤，请依法合规使用。
      • 大模型生成的内容注意甄别，确保操作符合法律法规要求。
      • 禁止用于非法目的，处理敏感或个人隐私数据时注意脱敏，以防滥用或泄露。
      • 支持多平台接入，如微信、企业微信、公众号、飞书、钉钉等。
      • 支持多模型选择，如 GPT3.5/GPT4.0/Claude/文心一言/讯飞星火/通义千问/Gemini/GLM-4/LinkAI 等。
      • 支持多消息类型，能处理文本、语音和图片，以及基于自有知识库进行定制的企业智能客服功能。
      • 支持多部署方法，如本地运行、服务器运行、Docker 的方式。
Content generated by AI large model, please carefully verify (powered by aily)

References

10分钟在网站上增加一个AI助手

首先我们可以通过创建一个百炼应用，来获取大模型的推理API服务，用于实现AI助手。[heading3]1.1创建应用[content]1.进入百炼控制台的[我的应用](https://bailian.console.aliyun.com/#/app-center)，在页面右侧点击新增应用。在对话框，选择智能体应用并创建。1.2.在应用设置页面，模型选择通义千问-Plus，其他参数保持默认。3.您也可以选择输入一些Prompt，比如设置一些人设以引导大模型更好的应对客户咨询。4.1.2.在页面右侧可以提问验证模型效果。不过您会发现，目前它还无法准确回答你们公司的商品信息。点击右上角的发布，我们将在后面的步骤中去解决这一问题。3.1.[heading3]1.2获取调用API所需的凭证[content]为了在后续通过API调用大模型应用的能力，我们需要获取一个百炼应用的API-KEY和应用ID：1.在我的应用>应用列表中可以查看所有百炼应用ID。保存应用ID到本地用于后续配置。1.2.在顶部导航栏右侧，点击人型图标，点击API-KEY进入我的API-KEY页面。在页面右侧，点击创建我的API-KEY，在弹出窗口中创建一个新API-KEY。保存API-KEY到本地用于后续配置。1.

DIN：全程白嫖 - 拥有一个AI大模型的微信助手

1.搭建[OneAPI](https://github.com/songquanpeng/one-api)，这东西是为了汇聚整合多种大模型接口，方便你后面更换使用各种大模型。下面会告诉你怎么去白嫖大模型接口。2.搭建[FastGpt](https://fastgpt.in/)，这东西就是个知识库问答系统，你把知识文件放进去，再把上面的大模型接进来，作为分析知识库的大脑，最后回答你问题，这么个系统。如果你不想接到微信去，自己用用，其实到这里搭建完就OK了，他也有问答界面。3.搭建[chatgpt-on-wechat](https://github.com/zhayujie/chatgpt-on-wechat)，接入微信，配置FastGpt把知识库问答系统接入到微信。这里建议先用个小号，以防有封禁的风险。搭建完后想拓展Cow的功能，我推荐Yaki.eth同学这篇教程[Yaki：GPT/MJ接入微信](https://waytoagi.feishu.cn/wiki/UADkwZ9B0iAWdTkFJIjcN7EgnAh)，里面的cow插件能进行文件总结、MJ绘画的能力。完成上面3步就算OK了，那我们正式开始。

熊猫大侠：基于COW框架的ChatBot实现步骤

作者：熊猫大侠COW是基于大模型搭建的Chat机器人框架，将多模型塞进自己的微信里实现方案。基于这篇张梦飞同学也写了一个更适合小白的使用教程：[【保姆级】一步一图，手把手教你把AI接入微信副本](https://waytoagi.feishu.cn/wiki/A9w1wUcXSihF6XkeKVic8CXxnHb)本文带你实现：1、打造属于自己的ChatBot（文本对话、文件总结、链接访问、联网搜索、图片识别、AI画图等等）2、常用开源插件的安装应用正式开始前你需要知道：ChatBot相较于在各大模型网页端使用区别：本实现思路需要接入大模型API的方式实现（API单独付费）风险与注意事项：1、微信端因为是非常规使用，会有封号危险，不建议主力微信号接入。2、本文只探讨操作操作步骤，请依法合规使用-大模型生成的内容注意甄别，确保所有操作均符合相关法律法规的要求。-禁止将此操作用于任何非法目的。-处理敏感或个人隐私数据时注意脱敏，以防任何可能的滥用或泄露。多平台接入：微信、企业微信、公众号、飞书、钉钉等。多模型选择：GPT3.5/GPT4.0/Claude/文心一言/讯飞星火/通义千问/Gemini/GLM-4/LinkAI等等多消息类型支持：能处理文本、语音和图片，以及基于自有知识库进行定制的企业智能客服功能。多部署方法：本地运行、服务器运行、Docker的方式

Others are asking
0到1使用大语言模型
以下是关于 0 到 1 使用大语言模型的相关内容： Ollama 框架： 1. 支持多种大型语言模型，如通义千问、Llama 2、Mistral 和 Gemma 等，适用于不同应用场景。 2. 易于使用，适用于 macOS、Windows 和 Linux 系统，同时支持 CPU 和 GPU。 3. 提供模型库，用户可从中下载不同参数和大小的模型，通过 https://ollama.com/library 查找。 4. 支持用户自定义模型，例如修改温度参数调整创造性和连贯性，或设置特定系统消息。 5. 提供 REST API 用于运行和管理模型，以及与其他应用程序的集成选项。 6. 社区贡献丰富，包括多种集成插件和界面，如 Web 和桌面应用、Telegram 机器人、Obsidian 插件等。 7. 安装完后，确保 ollama 后台服务已启动（在 mac 上启动 ollama 应用程序，在 linux 上通过 ollama serve 启动），可通过 ollama list 确认。 大模型安全： 1. 通过对齐（指令调优）使语言模型更好理解人类意图并增加安全保障，可拆解为监督微调、获取 reward model 和强化学习调整输出分布两部分。 2. LLAMA2 专门使用安全有监督微调确保语言模型安全。 3. 强化学习通过引入人类反馈数据调整模型输出分布，使模型面对训练分布外数据时能拒绝不当回答。 4. 但 Alignment 并不足以防护所有安全问题，存在越狱（Jailbreak）情况，导致模型对齐失效。 5. 还需关注隐私问题。 大模型架构与特点： 1. 包括 encoderonly、encoderdecoder 和 decoderonly 三种架构，目前熟知的 AI 助手多为 decoderonly 架构。 2. 大模型预训练数据量大，来自互联网，参数多，如 Open 在 2020 年发布的 GPT3 已达 170B 参数。 3. GPT3 可根据任务描述和示例完成任务，ChatGPT 则通过对话完成任务，二者在形式和安全性上有差别。
2025-02-19
怎么用大模型构建一个属于我自己的助手
以下是用大模型构建属于自己的助手的几种方法： 1. 在网站上构建： 创建百炼应用获取大模型推理 API 服务： 进入百炼控制台的，在页面右侧点击新增应用，选择智能体应用并创建。 在应用设置页面，模型选择通义千问Plus，其他参数保持默认，也可以输入一些 Prompt 来设置人设。 在页面右侧提问验证模型效果，点击右上角的发布。 获取调用 API 所需的凭证： 在我的应用>应用列表中查看所有百炼应用 ID 并保存到本地。 在顶部导航栏右侧，点击人型图标，点击 APIKEY 进入我的 APIKEY 页面，创建新 APIKEY 并保存到本地。 2. 微信助手构建： 搭建，用于汇聚整合多种大模型接口，并获取白嫖大模型接口的方法。 搭建，作为知识库问答系统，将大模型接入用于回答问题，若不接入微信，搭建完成即可使用其问答界面。 搭建接入微信，配置 FastGpt 将知识库问答系统接入微信，建议先用小号以防封禁风险。 3. 基于 COW 框架构建： COW 是基于大模型搭建的 Chat 机器人框架，可将多模型塞进微信。 基于张梦飞同学的更适合小白的使用教程：。 实现功能包括打造属于自己的 ChatBot（文本对话、文件总结、链接访问、联网搜索、图片识别、AI 画图等）、常用开源插件的安装应用。 注意事项： 微信端因非常规使用有封号危险，不建议主力微信号接入。 只探讨操作步骤，请依法合规使用。 大模型生成的内容注意甄别，确保操作符合法律法规要求。 禁止用于非法目的，处理敏感或个人隐私数据时注意脱敏，以防滥用或泄露。 支持多平台接入，如微信、企业微信、公众号、飞书、钉钉等。 支持多模型选择，如 GPT3.5/GPT4.0/Claude/文心一言/讯飞星火/通义千问/Gemini/GLM4/LinkAI 等。 支持多消息类型，能处理文本、语音和图片，以及基于自有知识库进行定制的企业智能客服功能。 支持多部署方法，如本地运行、服务器运行、Docker 的方式。
2025-02-17
语文教学如何使用大模型
在语文教学中使用大模型，可以参考以下方面： 1. 提示词设置： Temperature：参数值越小，模型返回结果越确定；调高参数值，可能带来更随机、多样化或具创造性的产出。对于质量保障等任务，可设置低参数值；对于诗歌生成等创造性任务，可适当调高。 Top_p：与 Temperature 类似，用于控制模型返回结果的真实性。需要准确答案时调低参数值，想要更多样化答案时调高。一般改变其中一个参数即可。 Max Length：通过调整控制大模型生成的 token 数，有助于防止生成冗长或不相关的响应并控制成本。 Stop Sequences：指定字符串来阻止模型生成 token，控制响应长度和结构。 Frequency Penalty：对下一个生成的 token 进行惩罚，减少响应中单词的重复。 2. 了解大模型： 大模型通俗来讲是输入大量语料，让计算机获得类似人类的“思考”能力，能进行文本生成、推理问答、对话、文档摘要等工作。 训练和使用大模型可类比上学参加工作：找学校（需要大量 GPU 计算）、确定教材（大量数据）、找老师（算法）、就业指导（微调）、搬砖（推导）。 Token 是模型处理和生成的文本单位，在将输入进行分词时会形成词汇表。 需要注意的是，在实际应用中，可能需要根据具体的教学需求和场景进行调整和实验，以找到最适合的设置和方法。
2025-02-17
如何利用大模型写教案
利用大模型写教案可以参考以下要点： 1. 输入的重要性：要输出优质的教案，首先要有高质量的输入。例如，写商业分析相关的教案，如果没有读过相关权威书籍，输入的信息缺乏信息量和核心概念，大模型给出的结果可能就很平庸。所以，脑海中先要有相关的知识概念，这来自于广泛的阅读和学习。 2. 对大模型的理解：大模型通过输入大量语料获得类似人类的“思考”能力，能够进行文本生成、推理问答、对话、文档摘要等工作。其训练和使用过程可以类比为上学参加工作，包括找学校（需要大量计算资源）、确定教材（大量数据）、找老师（合适的算法）、就业指导（微调）、搬砖（推导）等步骤。 3. 与大模型的交互： 提示词工程并非必须学习，不断尝试与大模型交互是最佳方法。 交互时不需要遵循固定规则，重点是是否达成目的，未达成可锲而不舍地尝试或更换模型。 用 Markdown 格式清晰表达问题，它具有结构清晰、能格式化强调关键部分、适用性广等优点，有助于大模型更好地理解用户意图。
2025-02-17
deepseek是不是国内通用大模型第一名
DeepSeek 是在国内表现出色的模型之一。它发布的大一统模型 JanusPro 将图像理解和生成统一在一个模型中，具有统一 Transformer 架构，提供 1B 和 7B 两种规模，全面开源，支持商用，部署使用便捷，Benchmark 表现优异，能力更全面。同时，在 LMSYS 排行榜上，由 DeepSeek 等开发的模型取得了优异成绩，尤其在数学和编程方面表现出色。DeepSeek 在推理过程中通过多头隐式注意力减少内存需求，并且改进了 MoE 架构。但不能简单地说 DeepSeek 就是国内通用大模型第一名，其在不同方面的表现还需综合评估。
2025-02-08
Coze + 飞书 + 飞书多维表格：通过飞书机器人与 Coze 搭建的智能体进行对话，在聊天窗口中完成链接输入和阅读计划输出。由 Coze 调用大模型、插件完成内容的整理、推荐，利用飞书多维表格存储和管理稍后读数据，无需开发任何插件、APP，能实现跨平台的稍后读收集与智能阅读计划的推荐。其设计思路包括简化“收集”，实现跨平台收集和通过输入 URL 完成收集；自动化“整理入库”，自动整理关键信息并支持跨平台查看；智能“选择”推荐，根据收藏记录和用户兴趣生成阅读计划——这个方法具体如何操作？
以下是关于通过飞书机器人与 Coze 搭建的智能体进行对话，并利用飞书多维表格存储和管理稍后读数据，实现跨平台的稍后读收集与智能阅读计划推荐的具体操作方法： 前期准备： 1. 简化“收集”： 实现跨平台收集功能，支持电脑（web 端）、安卓、iOS 多端操作。 输入一个 URL 即可完成收集，借鉴微信文件传输助手的方式，通过聊天窗口完成收集输入。 2. 自动化“整理入库”： 系统在入库时自动整理每条内容的关键信息，包括标题、摘要、作者、发布平台、发布日期、收集时间和阅读状态。 阅读清单支持跨平台查看。 3. 智能“选择”推荐： 根据当前收藏记录和用户阅读兴趣进行相关性匹配，生成阅读计划。 使用飞书·稍后读助手： 1. 设置稍后读存储地址： 首次使用，访问。 点击「更多创建副本」，复制新表格的分享链接。 将新链接发送到智能体对话中。 还可以发送“查询存储位置”、“修改存储位置”来更换飞书多维表格链接，调整稍后读存储位置。 2. 收藏待阅读的页面链接： 在对话中输入需要收藏的页面链接，第一次使用会要求授权共享数据，授权通过后再次输入即可完成收藏。但目前部分页面链接可能小概率保存失败。 3. 智能推荐想看的内容： 在对话中发送“我想看 xx”、“xx 内容”，即可按个人兴趣推荐阅读计划。 至此，专属 AI 稍后读智能体大功告成，您可以尽情享受相关服务。
2025-01-27
有哪些在企业内部落地应用AI大模型工具的实践案例？不要营销文案生成、代码开发助手、智能客服问答机器人这种太常见的
以下是一些在企业内部落地应用 AI 大模型工具的实践案例： 1. 阿里云百炼： 智能体应用：能够弥补大模型的不足，如回答私有领域问题、获取实时信息、回答专业问题等。适用于有企业官网、钉钉、微信等渠道，期望为客户提供产品咨询服务，以及缺少技术人员开发大模型问答应用的场景。典型场景包括私有领域知识问答、个性化聊天机器人、智能助手等。 内部业务助手：通过企业内部规章制度、部门结构、产品介绍等文档构建知识库，并借助 RAG 智能体实现内部知识问答功能。系统支持多源异构数据，并通过复杂文档解析和视觉增强技术，提升文档理解的准确性与深度。目前该功能已灰度上线，需提供 UID 并通过白名单进行开启。 2. 达摩院： AI 模特（虚拟换装）：支持虚拟换装、姿态编辑。 3. 电商零售： 推广文案写作：通过内置的多样化营销场景的文体模板，基于用户输入的创作主题以及参考素材，大模型即可为您生成对应的营销文案，为营销活动和宣传文案提供灵感和文案写作支持。 4. 泛企业： VOC 挖掘：是一个面向各类企业的 VOC 标签挖掘的工具。不论是用户的长短评论、帖子、还是用户和客服/销售的聊天记录、通话记录，都可以使用。通过选中或自定义标签，即可让大模型针对海量非结构化的 VOC 数据快速打标。相比于人工打标或规则打标准确率更高；对于业务标签变动频繁的情况，也能更敏捷、快速地影响。 5. 通义晓蜜：基于深度调优的对话大模型，为营销服类产品提供智能化升级所需的生成式摘要总结、质检、分析等能力应用。
2025-02-18
哪个AI助手最好用？
目前没有直接关于“哪个 AI 助手最好用”的准确答案。但为您提供以下相关信息供参考： 在编程方面，有一些辅助编程的 AI 工具，如 GitHub Copilot，由 GitHub 联合 OpenAI 和微软 Azure 团队推出，支持多种语言和 IDE，能为程序员快速提供代码建议；通义灵码，阿里巴巴团队推出，提供多种编程辅助能力；CodeWhisperer，亚马逊 AWS 团队推出，由机器学习技术驱动，可为开发人员实时提供代码建议；CodeGeeX，智谱 AI 推出的开源免费 AI 编程助手；Cody，代码搜索平台 Sourcegraph 推出，借助强大的代码语义索引和分析能力了解开发者的整个代码库；CodeFuse，蚂蚁集团支付宝团队推出的免费 AI 代码助手；Codeium，一个由 AI 驱动的编程助手工具，可提高编程效率和准确性。您可以根据自己的需求选择适合的工具。更多辅助编程 AI 产品，还可以查看：https://www.waytoagi.com/category/65 。 在其他领域，如视频问答方面，YouTube 推出了高级会员可使用的视频问答功能，通过视频下方的“Ask”按钮使用 AI 助手，支持询问关于视频的各种问题。 在照片处理方面，Cooraft 是个性化 AI 照片效果工具，能将自拍转换为 AI 风格视频、生成专业级高质量照片、添加艺术效果、制作趣味表情包、让静态照片动起来、将草图变真图等。 在购物方面，Perplexity 推出了 AI 购物助手：Shop Like a Pro，从产品搜索到下单全流程一站式完成，无需切换标签页，还具有 Buy with Pro 功能，支持直接研究商品并结账，提供免费送货服务，支持视觉搜索工具，通过拍照找到相关商品。
2025-02-18
写微信小程序，用哪个 ai 代码助手最好
以下是一些适用于写微信小程序的 AI 代码助手推荐： 1. DIN： 搭建 OneAPI 以汇聚整合多种大模型接口。 搭建 FastGpt 作为知识库问答系统。 搭建 chatgptonwechat 接入微信，并配置 FastGpt 把知识库问答系统接入到微信。 2. Cursor： 可通过任意 AI 工具获得代码，专业代码模型表现更优。 网址：https://www.cursor.com/ 3. Deepseek（新手推荐）： 网址：https://www.deepseek.com/zh 方便获取游戏代码，国内能访问，网页登录方便，目前完全免费。 4. 通义灵码： 在 Pytharm 中，“文件”“设置”“插件”红色框位置搜索“通义灵码”进行安装（目前免费）。 5. JetBrains 自身的助手插件： 在 Pytharm 中，“文件”“设置”“插件”红色框位置搜索“Jetbrains AI assistant”进行安装（收费，目前有 7 天免费试用）。 6. Marscode 及 Tencent cloud AI code Assistant 等。 7. 无影的晓颖 AI 助手： 内置在云电脑里，使用流畅，但需要在无影的云电脑中。 需要注意的是，不同的 AI 代码助手在生成特定代码时可能有不同的表现，您可以根据自己的需求和实际使用体验进行选择。
2025-02-17
常用的AI助手
以下是一些常用的 AI 助手： 辅助编程的 AI 产品： GitHub Copilot：由 GitHub 联合 OpenAI 和微软 Azure 团队推出，支持多种语言和 IDE，能快速提供代码建议。 通义灵码：阿里巴巴团队推出，提供多种编程相关能力。 CodeWhisperer：亚马逊 AWS 团队推出，由机器学习技术驱动，实时提供代码建议。 CodeGeeX：智谱 AI 推出的开源免费 AI 编程助手，基于 130 亿参数的预训练大模型。 Cody：Sourcegraph 推出的 AI 代码编写助手，借助强大的代码语义索引和分析能力。 CodeFuse：蚂蚁集团支付宝团队推出的免费 AI 代码助手。 Codeium：由 AI 驱动的编程助手工具，提高编程效率和准确性。 更多辅助编程 AI 产品，可查看：https://www.waytoagi.com/category/65 。每个工具功能和适用场景不同，可根据需求选择。 营销领域的 AI 产品： Synthesia：允许创建 AI 生成的高质量视频，包括数字人视频，多种定价计划。 HeyGen：基于云的 AI 视频制作平台，可生成数字人视频。 Jasper AI：人工智能写作助手，用于生成营销文案等。 Copy.ai：AI 营销文案生成工具，有免费和付费计划。 Writesonic：AI 写作助手，专注营销内容创作。 更多营销产品可查看：https://www.waytoagi.com/sites?tag=8 。这些工具能帮助营销人员高效创作，根据需求选择。 AI 与宠物结合的方式： AI 宠物助手：基于自然语言处理和计算机视觉，帮助主人照顾宠物，如识别情绪、提供饮食建议、监测健康状况。 AI 宠物互动玩具：利用 AI 技术开发智能互动玩具，增强宠物娱乐体验。 AI 宠物图像生成：使用生成式 AI 模型生成宠物形象图像，定制个性化形象。 AI 宠物医疗诊断：利用计算机视觉和机器学习技术开发辅助诊断系统，提供初步诊断建议。 AI 宠物行为分析：基于传感器数据和计算机视觉分析行为模式，帮助主人了解宠物需求和习性。 学习路径建议：掌握基础的机器学习、计算机视觉、自然语言处理等 AI 技术；了解宠物行为学、宠物医疗等相关知识；关注业内先进案例；尝试开发原型并迭代优化。AI+宠物是新兴赛道，充满想象空间，可开发出有趣有用的应用。
2025-02-17
我现在想根据我的博士论文，想出一个国家社科基金的选题。但是我的博士论文感觉核心不是特别突出，我希望找到一个AI助手，让AI帮我读论文的PDF格式然后总结出一个最合适的选题，有没有推荐的AI工具？
以下是一些关于利用 AI 辅助完成您需求的建议： 1. 先拆解您的博士论文工作流程，搞清楚每个步骤的输入输出和相互关系。 2. 思考论文中的哪些环节可以引入 AI 工具来提效，一切要从业务逻辑出发，AI 是锦上添花，不能本末倒置。 3. 搭建选题库，明确论文的定位（可用 AI 辅助分析），找相关的对标论文和优秀研究。 4. 在写作环节，可用 AI 辅助拆解对标论文，提炼写作技巧，然后根据借鉴的技巧结合自身特色列出写作大纲，并使用 AI 优化大纲、查找资料、润色文章，但核心内容要自己完成，不能过度依赖 AI。 5. 起标题与配图方面，用 AI 辅助批量生成标题，再自己修改优化，评估标题是否足够吸引眼球，让 AI 分析论文提供配图建议，去免费图库搜索配图。 6. 养成习惯与总结，做每件事前都思考 AI 能提供什么帮助，把整套流程实践几次，形成肌肉记忆，不断打磨完善属于自己的 AI 辅助流程，同时警惕过度依赖，AI 只是辅助，核心能力要靠自己。 目前常见的可用于辅助您的 AI 工具如 ChatGPT 等，但具体的选择还需根据您的实际需求和使用体验来决定。
2025-02-16
如果通过deepseek构建智能客服
要通过 DeepSeek 构建智能客服，可以参考以下步骤： 1. 效果对比：用 Coze 做小测试进行对比。 2. 如何使用： 搜索 www.deepseek.com，点击“开始对话”。 将装有提示词的代码发给 Deepseek。 认真阅读开场白之后，正式开始对话。 3. 设计思路： 将 Agent 封装成 Prompt，将 Prompt 储存在文件，保证最低成本的人人可用的同时，减轻调试负担。 通过提示词文件，让 DeepSeek 实现同时使用联网功能和深度思考功能。 在模型默认能力的基础上优化输出质量，并通过思考减轻 AI 味，增加可读性。 照猫画虎参考大模型的 temperature 设计了阈值系统，但是可能形式大于实质，之后根据反馈可能会修改。 用 XML 来进行更为规范的设定，而不是用 Lisp（有难度）和 Markdown（运行不稳定）。 4. 特别鸣谢：李继刚的【思考的七把武器】在前期提供了很多思考方向；Thinking Claude 是最喜欢使用的 Claude 提示词，也是设计 HiDeepSeek 的灵感来源；Claude 3.5 Sonnet 是最得力的助手。 另外，实现联网版的 DeepSeek R1 大模型的核心路径如下： 1. 拥有扣子专业版账号：如果还是普通账号，请自行升级或注册专业号后使用。 2. 开通 DeepSeek R1 大模型：访问地址 https://console.volcengine.com/cozepro/overview?scenario=coze ，打开火山方舟，找到开通管理，找到 DeepSeek R1 模型，点击开通服务，添加在线推理模型，添加后在扣子开发平台才能使用。 3. 创建智能体：点击创建，先完成一个智能体的创建。 同时，GPT1 到 Deepseek R1 所有公开论文中关于智能代理的部分提到：Anthropic 的《构建有效的代理》是一篇关于 2024 年的精彩回顾，重点关注连锁、路由、并行化、协调、评估和优化的重要性。还可以在加州大学伯克利分校 LLM 代理的慕课中找到更多资料。
2025-02-18
我怎样用低代码工具去构建我的AI智能体？LLM应用？
以下是关于如何用低代码工具构建 AI 智能体和 LLM 应用的一些建议： 在构建基于 LLM 的应用时，Anthropic 建议先寻找最简单的解决方案，只在必要时增加复杂度。智能系统通常会以延迟和成本为代价来换取更好的任务表现，开发者需要考虑这种权衡是否合理。当需要更复杂的解决方案时，工作流适合需要可预测性和一致性的明确任务，而智能体则更适合需要灵活性和模型驱动决策的大规模场景。不过，对于许多应用来说，优化单个 LLM 调用（配合检索和上下文示例）通常就足够了。 目前有许多框架可以简化智能系统的实现，例如： 1. LangChain 的 LangGraph。 2. 亚马逊 Bedrock 的 AI Agent 框架。 3. Rivet（一个拖放式 GUI 的 LLM 工作流构建器）。 4. Vellum（另一个用于构建和测试复杂工作流的 GUI 工具）。 这些框架通过简化标准的底层任务（如调用 LLM、定义和解析工具、链接调用等）使入门变得容易，但它们往往会创建额外的抽象层，可能会使底层提示词和响应变得难以调试，也可能诱使开发者在简单设置就足够的情况下增加不必要的复杂性。建议开发者先直接使用 LLM API，许多模式只需要几行代码就能实现。如果确实要使用框架，请确保理解底层代码。 此外，还有以下相关工具和应用： 1. VectorShift：能在几分钟内构建和部署生成式人工智能应用程序，利用大型语言模型（例如 ChatGPT）构建聊天机器人、文档搜索引擎和文档创建工作流程，无需编码。 2. Unriddle：帮助更快阅读、写作和学习的工具，能简化复杂的主题，找到信息，提问并立即获得答案。 工具使用或函数调用通常被视为从 RAG 到主动行为的第一个半步，为现代人工智能栈增加了一个新的层。一些流行的原语如网页浏览（Browserbase、Tiny Fish）、代码解释（E2B）和授权+认证（Anon）已经出现，它们使 LLM 能够导航网络、与外部软件（如 CRM、ERP）交互并运行自定义代码。Omni 的计算 AI 功能体现了这种方法，它利用 LLM 直接输出适当的 Excel 函数到电子表格中，然后执行计算并自动生成复杂查询供用户使用。 详细示例请参考：https://github.com/anthropics/anthropiccookbook/tree/main/patterns/agents
2025-02-17
如何构建自己领域的微调数据集
构建自己领域的微调数据集可以参考以下步骤： 1. 确定目标领域和应用需求：明确您希望模型在哪个细分领域进行学习和优化。 2. 数据收集：广泛收集与目标领域相关的数据。例如，若要训练二次元模型，需收集二次元优质数据；若要微调 Llama3 ，可参考相关文档获取数据集。 3. 数据标注：对收集的数据进行准确标注，以便模型学习到有效的特征。 4. 数据清洗：去除无效或错误的数据，提高数据质量。 5. 特殊处理：如为数据添加特殊 tag 等。 以 Stable Diffusion 为例，可收集如 833 张宝可梦数据，并按照特定步骤进行清洗、标注和添加特殊 tag 。对于 Llama3 ，获取数据集后上传到服务器，编写并执行微调代码即可进行微调。 在微调过程中，还需注意一些问题，如大型语言模型微调可能面临训练时间长、成本高等挑战，此时可考虑参数有效调优等创新方法。
2025-02-17
目前我有个数据源头，可能是excle或mysql数据库。他们都含义以下字段： 发货日期 物料编号 物料描述 板块 实际已交货量 销售单位 金额(RMB) 金额(不含税RMB) 国家 品牌； 我需要创建一个智能体助手，用于分析这些数据，这个智能通助手需要能按用户需要，分析各个维度的数据，并按板块等维度汇总，并转为柱状图图表表现出现，并表现用户所有日期的近一周的变化，并阐明变化或波动是由哪些数据导致的？ 结合以上需求，我需要在飞书上构建一个企业每日利润表分析与汇报助手，该选定哪种prompt框架
很抱歉，目前飞书知识库中没有关于您所描述的这种特定需求下应选定哪种 prompt 框架的相关内容。但一般来说，构建这样的企业每日利润表分析与汇报助手的 prompt 框架可以考虑以下几个方面： 1. 明确数据来源和格式：清晰描述数据来自 Excel 或 MySQL 数据库，以及包含的具体字段。 2. 定义分析维度和指标：如按板块、国家等维度汇总数据，关注利润相关的指标。 3. 设定时间范围：明确分析近一周的数据变化。 4. 描述图表要求：指定以柱状图展示数据。 5. 解释变化原因：阐明导致数据变化或波动的关键因素。 您可以根据实际情况进一步细化和完善这个框架。
2025-02-15
我需要在飞书上构建一个企业每日利润表分析与汇报助手，该选定哪种prompt框架，提供下prompt样例
以下是几种适用于在飞书上构建企业每日利润表分析与汇报助手的 prompt 框架及样例： 1. ICIO 框架： 指令：明确执行的具体任务，如“分析企业每日利润表并生成详细报告”。 背景信息：提供执行任务的背景信息，如“企业近期业务拓展，成本有所增加”。 输入信息：大模型需要用到的一些信息，如“利润表的各项数据”。 输出信息：明确输出的具体信息的要求，如“报告以表格形式呈现，包含各项利润数据的同比和环比变化，并给出简要分析”。 2. BROKE 框架： 背景：说明背景，如“公司处于业务增长阶段，需要密切关注利润情况”。 角色：设定特定的角色，如“利润表分析专家”。 目标：明确任务的目标，如“准确分析每日利润表，为管理层提供决策支持”。 关键结果：明确可以衡量的结果，如“报告中的分析结论能帮助管理层制定有效的成本控制策略”。 调整：根据具体的情况，来调整具体的结果，如“根据市场变化调整利润分析的重点”。 3. CRISPIE 框架： 能力和角色：期望大模型扮演的角色洞察，如“专业的财务分析师”，提供幕后洞察力、背景信息和上下文。 声明：简洁明了的说明希望完成的任务，如“对每日利润表进行全面深入分析”。 个性：回应的风格、个性或者方式，如“以简洁明了、数据准确为特点”。 实验：提供多个回答的示例。 4. 情境框架： 情境：描述当前的情况，如“企业面临市场竞争，利润波动较大”。 任务：明确要完成的任务，如“分析每日利润表，找出利润波动的原因”。 行动：说明采取的行动，如“对各项收入和成本进行详细比对”。 结果：阐述期望得到的结果，如“生成包含原因分析和建议的报告”。
2025-02-14
你用的是什么ai模型
以下是关于所使用的 AI 模型的相关信息： 我使用的是 GPT4，其他模型的效果不太好。如果您使用 GPT4 总结的内容质量不行，可以点击“重试”按钮让其重新总结。 默认情况下，Cursor Chat 将 OpenAI 的 GPT4（具体为 GPT4Turbo 实例）用于其 AI 模型，您可以通过选择喜欢的 AI 模型，且为 Chat 选择的模型会保存供未来使用。 有实例中使用的是阿里千问模型。
2025-02-20
你是基于什么模型？
我调用的是抖音集团的云雀大模型。 Gemini 模型是基于 Transformer 解码器构建的，对模型结构进行了优化，主要为大规模稳定训练及在 Google 的 TPU 上推理优化。它能适应与各种音频和视觉输入交织的文本输入，并生成文本和图像输出，经过训练支持 32k 的上下文长度，采用高效的注意机制。 麦橘超然 MajicFlus 是一款基于 flux.dev 微调融合的模型，专注于高质量人像生成，尤其擅长亚洲女性，有卓越人像生成能力、广泛适用性、简单易用等特点。多位社区成员基于模型制作的 LoRA 一同发布，扩展了功能与表现力，但它对社区大部分的 lora 不完美兼容，需降低权重至 0.5 以下。
2025-02-20
模型微调是怎么实现的
模型微调是一种迁移学习技术，常用于深度学习中。其基本思路是先有一个在大量数据上预训练的模型，已学会一些基本模式和结构，然后在特定任务数据上继续训练以适应新任务。 以下是关于模型微调的具体实现步骤： 1. 准备和上传训练数据。 2. 训练新的微调模型： LoRA 微调： 脚本见：。 具体实现代码见。 单机多卡的微调可通过修改脚本中的include localhost:0 来实现。 全量参数微调： 脚本见：。 具体实现代码见。 3. 加载微调模型： LoRA 微调：基于 LoRA 微调的模型参数见基于 Llama2 的中文微调模型，LoRA 参数需和基础模型参数结合使用。通过加载预训练模型参数和微调模型参数。 全量参数微调：调用方式同模型调用代码示例，只需修改其中的模型名称或保存路径。 微调的优点包括： 1. 比即时设计更高质量的结果。 2. 能够训练比提示中更多的例子。 3. 由于更短的提示而节省了 Token。 4. 更低的延迟请求。 微调目前仅适用于以下基础模型：davinci、curie、babbage 和 ada。 以下是两个帮助理解微调概念的例子： 1. 情感分类：先使用大量语料库预训练模型，使其学会基本语法和单词语义，再收集标注过的电影评论（积极或消极）继续训练模型，使其学会判断评论情感。 2. 图像分类：先使用大量图片（如 ImageNet 数据集）预训练模型，使其学会识别图片中的基本形状和纹理，再收集标注过的猫和狗的图片继续训练模型，使其学会区分猫和狗。
2025-02-19
汇总一下现在的大语言模型都有哪些，国外和国内的模型分别列出来
以下是国内外的大语言模型汇总： 国外大语言模型： GPT4（OpenAI）：目前最先进的自然语言生成模型，可用于回答问题、撰写文章等。 Gemini Ultra（Google）：多模态人工智能模型，采用神经网络架构，对标 GPT4，可用于回答问题、生成代码、处理文本等。 Claude 3 Opus（Anthropic）：多模态模型，能处理超过 1 百万 token 的输入，具有实时聊天、数据处理、分析预测等功能；实现了接近完美的召回率。 国内大语言模型： 文心一言（百度）：大语言模型，可用以文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成。 讯飞星火：目前体验效果较好。 悟道・天鹰（北京智源人工智能研究院）：首个具备中英文双语知识、支持商用许可协议、国内数据合规需求的开源语言大模型。 清华 ChatGLM 。 此外，国内还有通用模型如通用模型如文心一言、讯飞星火等，处理自然语言；还有垂直模型，专注特定领域如小语种交流、临床医学、AI 蛋白质结构预测等。
2025-02-19
deepseek的论文里面讲的混合专家模型怎么理解
混合专家（MoE）模型是一种在深度学习中提升计算效率的架构。以 DeepSeek 为例，其最新模型 V3 与 R1 采用了这种架构。 在 DeepSeek 的 V3 模型中，引入了多头潜注意力（MLA），将 KV 缓存压缩至新低，从而提升了计算性能。R1 模型则通过强化学习激活推理能力，首次验证无需监督微调即可实现推理。 DeepSeek 的 2360 亿参数的 DeepSeekV2 是 60 位专家混合开源模型，在数学、编码和推理方面表现出色，具有 236B 参数，21B 在生成过程中被激活，在 MTBench 上表现优异，中文能力强且性价比高。 您可以通过以下链接获取更详细的介绍：https://xiaohu.ai/p/7468 、https://zhuanlan.zhihu.com/p/21208287743 。
2025-02-19