如果我想做一个基于chatGPT的剧本杀创作的微信小程序开发项目，现在要进行大数据平台的后端开发与搭建，你建议怎么入手

以下是基于您的项目“基于 chatGPT 的剧本杀微信小程序开发”进行大数据平台后端开发与搭建的入手步骤： 1. 搭建 OneAPI（https://github.com/songquanpeng/oneapi），其作用是汇聚整合多种大模型接口，方便后续更换使用各种大模型，同时会告知您如何白嫖大模型接口。 2. 搭建 FastGpt（https://fastgpt.in/），这是一个知识库问答系统。您将知识文件放入其中，并接入上面的大模型作为分析知识库的大脑，用于回答问题。如果不想接到微信，仅自己使用，搭建到此即可，它本身也有问答界面。 3. 搭建 chatgptonwechat（https://github.com/zhayujie/chatgptonwechat）以接入微信，并配置 FastGpt 将知识库问答系统接入微信。建议先使用小号以防封禁风险。搭建完成后若想拓展功能，可参考 Yaki.eth 同学的教程（https://waytoagi.feishu.cn/wiki/UADkwZ9B0iAWdTkFJIjcN7EgnAh），其中的 cow 插件具备文件总结、MJ 绘画的能力。 完成上述 3 步即可。

以下是基于 ChatGPT 开发剧本杀微信小程序的入手步骤： 1. 注册小程序： 登录微信公众号首页，选取小程序，用新邮箱绑定注册。 2. 小程序信息填写： 注册验证通过后，填写小程序信息和类目。小程序名称可填写与功能相关的名称，头像可网上查找或利用 Midjourney 生成。 3. 开发者工具下载： 回到发布流程页面，点击“普通小程序开发者工具”，在新页面中点击“微信开发者工具”，选择 Windows 64 位下载。 4. 创建小程序项目： 打开下载好的微信开发者工具，选择创建小程序。注意获取 ID，选择不使用云服务，并选择 JavaScript 基础模板。创建后了解相关文件，如 app.js 等。 5. 利用 ChatGPT 生成代码： 构思好产品，画个草稿，包括产品名称、按钮数量、交互逻辑等，并将这些话术告诉 ChatGPT。 例如，以制作计算日子间隔的工具为例，给出详细的 prompt 描述需求。 ChatGPT 会给出代码，并告知代码应放置在微信开发者工具的哪些文件中。特殊文件夹如 add 需自行在 pages 下级新建。 您还可以参考以下文章获取更详细的信息：https://mp.weixin.qq.com/s/WkFxMMrlMqv52ce2n0xX6A

如果您想创建一个类似的 AI ，从程序开发角度来说，以下是一些可能用到的技术和知识： 1. 编程语言： Rust：以性能、安全性和并发处理能力著称，适合高性能和安全性要求高的系统级编程。 Python：在 AI 开发中广泛应用，具有丰富的库和工具。 2. 程序类型和项目规划： 明确要开发的程序类型，如命令行工具、Web 服务、嵌入式系统等。 确定具体的项目想法或寻求方向建议。 评估自身在所选编程语言方面的经验水平。 3. Python 相关知识： 属性和方法：为类定义属性和方法，并通过对象调用。 继承和多态：了解类之间的继承关系及实现方式。 异常处理：理解异常概念，学会使用 try 和 except 语句处理错误。 文件操作：包括文件读写、文件与路径操作等。 4. AI 知识： 背景知识： 基础理论：了解人工智能、机器学习、深度学习的定义及相互关系。 历史发展：回顾 AI 的发展历程和重要里程碑。 数学基础： 统计学基础：熟悉均值、中位数、方差等统计概念。 线性代数：了解向量、矩阵等基本概念。 概率论：掌握条件概率、贝叶斯定理等知识。 算法和模型： 监督学习：了解线性回归、决策树、支持向量机（SVM）等常用算法。 无监督学习：熟悉聚类、降维等算法。 强化学习：了解其基本概念。 评估和调优： 性能评估：掌握交叉验证、精确度、召回率等评估方法。 模型调优：学会使用网格搜索等技术优化模型参数。 神经网络基础。

以下是一些微信机器人的相关教程： 共学版本：包含大多数教程内容，学完前三天就能做出不错的机器人，强烈建议学习。 Stuart：【入门级】教你用最简单的方式搭建微信机器人 马上观看看：通过云服务器，dify，智能微秘书来免费搭建微信机器人 Yaki：GPT/MJ 接入微信 DIN：全程白嫖拥有一个 AI 大模型的微信助手 熊猫大侠：基于 COW 框架的 ChatBot 实现步骤 大雨：轻松上手 Docker：一站式指南助你成为容器化技术高手 张梦飞：【保姆级教程】这可能是你在地球上能白嫖到的，能力最强的超级微信机器人！一步一图，小白友好 张梦飞：【保姆级】一步一图，手把手教你把 AI 接入微信

以下是关于微信超级 AI 知识助手教学（下）的相关信息： 时间：12 月 11 日 20:00 （） 内容：个人助手的微信多模态接入教学 讲师：@张梦飞

以下是关于用 AI 做微信表情包的相关内容： Stuart 介绍了用 LLM 模拟人设来制作三思美女的微信沙雕表情包。先参考前面色卡方式，利用图片知识库，再通过大语言模型作为人设建立器，基于其判断从知识库中选取合适的表情包，从而让 bot 能以接近三思的聊天风格聊天。该 bot 由“七个小扣子团队”共创，成员众多，相关搭建视频可查看特定链接，也可关注公众号或加入成为共建者。 皮皮提到微信虚拟女友李洛云的相关注意事项，包括不应使用括号输出心理或动作，回复要极度简短、口语化，偶尔使用 emoji 表情包和四川话，尽量不反问，可表达负面情绪但不能骂人。还对一些规则进行了解读，并给出了实际测试结果，表明效果与模型有关，不同模型效果排名不同。但李洛云用的不是相关 prompt。

以下是一些可以用于搭建微信小程序的 AI 相关工具和方法： 1. 通过 Zion 可以以 API 形式链接并搭建，相关教程可参考： 自定义配置方面，变现模版 UI 交互、API、数据库等拓展功能，支持在 Zion 内自由修改，可参考文档配置。支付相关可参考： Zion 支持小程序、Web、AI 行为流全栈搭建，APP 端全栈搭建预计 2025 上线。 2. Coze 变现模板正在全新升级，微信小程序变现模版正在开发中，12 月将会上线。目前实现小程序端可以通过 API 形式搭建，可参考 API 形式。同时有△AI 变现的小程序端案例。

以下是关于微信机器人的相关知识： 测试和重新配置： 登录成功后，找另一个人私聊或者在群中@您，就可以看到机器人的正常回复。若未成功，可检查 config.json 文件中的配置或跳到“第四章，第 3 步”重启服务。 可为 AI 赋予不一样的提示词，可返回“第三章，第 7 步”更改设置。 进行任何更改后，需“返回首页 右上角 点击重启，重启一下服务器”。熟悉 Linux 操作也可通过重启进程的方式来重启服务。然后，在“文件”的【终端】里，直接输入“nohup python3 app.py&tail f nohup.out”重新扫码登录即可。 若想退出机器人，在手机微信上找到桌面版已登录的信息，点击退出桌面版即可。 帮助：若遇到问题，可先查询社区知识库，或者加“通往 AGI 之路”群，社区小伙伴们会尽力帮助。也可加 Stuart 个人微信询问。 机器人制作安装问题及解答汇总： 微信机器人无法正常画图，错误提示“{"Success":1,"error":{"code":4008,"message":"The specified key does not exist."}}”，查看/root/chatgptonwechat/run.log 中有相关提示。可能是点链接时多了一个小括号。 扫码后，手机登陆后无机器人反应，可能是配置错误或安装不对，需根据步骤逐一检查或重装。 机器人回答问题时，按照设计输入特定数字后应出现相应内容，但在微信机器人中始终只显示“内容加速生成中，请稍等”的消息，后面内容不出现。这不是问题，COW 本身处理不了，一次只能调取一个对话。有代码能力可直接调整代码实现。 宝塔登录不上去，按下图所示重启服务器，重启时间可能较久，但一定会重启成功，请耐心等待。 零基础模板化搭建 AI 微信聊天机器人： 重点是在复制的 dockercompose.yml 文件中修改配置串联微信号和已创建好的 AI 机器人，配置参考来源：https://docs.linkai.tech/cow/quickstart/config 。 从配置参数解释可知，配置里每个参考名称的全大写描述，如 open_ai_api_key 对应编排模板的 OPEN_AI_API_KEY 等。 私聊或群交流时，最好加上前缀触发机器人回复，如配置的，即对应的配置参数 SINGLE_CHAT_PREFIX，在私聊或群里发消息必须包含 bot 或者@bot 才会触发机器人回复。在群组里，对应配置参数是 GROUP_CHAT_PREFIX，机器人只会回复群里包含@bot 的消息。还有参数 GROUP_NAME_WHITE_LIST 用来配置哪些群组的消息需要自动回复。

将 Agent 应用到微信公众号和企业客服可以参考以下内容： Dify 接入企业微信的步骤： 1. 在 Dify 平台创建基础编排聊天助手应用，获取 API 密钥和 API 服务器地址。 2. 下载 Dify on WeChat 项目并安装依赖。 3. 在项目根目录创建 config.json 文件，填写 API 密钥和服务器地址。 4. 把基础编排聊天助手接入微信，可选择源码部署或 Docker 部署，进行快速启动测试，扫码登录并进行对话测试。 5. 把工作流编排聊天助手接入微信，包括创建知识库、导入知识库文件、创建工作流编排聊天助手应用、设置知识检索节点和 LLM 节点、发布更新并访问 API。 6. 把 Agent 应用接入微信，创建 Agent 应用，设置对话模型和添加工具，生成 API 密钥，填写配置文件，启动程序并进行测试。更多内容请访问原文：https://docs.dify.ai/v/zhhans/learnmore/usecases/difyonwechat 一些 Agent 构建平台： 1. Coze：新一代的一站式 AI Bot 开发平台，适用于构建基于 AI 模型的各类问答 Bot，集成丰富插件工具拓展 Bot 能力边界。 2. Microsoft 的 Copilot Studio：主要功能包括外挂数据、定义流程、调用 API 和操作，以及将 Copilot 部署到各种渠道。 3. 文心智能体：百度推出的基于文心大模型的智能体（Agent）平台，支持开发者根据自身需求打造大模型时代的产品能力。 4. MindOS 的 Agent 平台：允许用户定义 Agent 的个性、动机、知识，以及访问第三方数据和服务或执行设计良好的工作流。 5. 斑头雁：2B 基于企业知识库构建专属 AI Agent 的平台，适用于客服、营销、销售等多种场景，提供多种成熟模板，功能强大且开箱即用。 6. 钉钉 AI 超级助理：依托于钉钉强大的场景和数据优势，提供更深入的环境感知和记忆功能，在处理高频工作场景如销售、客服、行程安排等方面表现出色。 基于 COW 框架的 ChatBot 在企业微信的实现步骤： 1. 准备：企微的接入方式是通过企业微信应用完成，只能企业内部人员使用，暂时无法在外部群中使用。需要的资源包括一台服务器（海外服务器，有国内代理接口的话可使用国内服务器）、注册一个企业微信（个人也可注册，只是无法认证），如果是认证的企业微信，还需要一个对应主体备案的域名。 2. 创建企业微信应用：首先在说明。

DeepSeek R1 与 ChatGPT 的优势比较如下： 在数字乘法任务中，ChatGPT 和精简版的隐式 CoT 模型无法达到 100%的准确率，而从头开始训练的 DeepSeek R1 在将扩散采样步骤设置为 1 的情况下，能够保持显著的吞吐量同时达到 100%的准确率。 在数学问题求解常用基准测试中，GPT4 相对于 ChatGPT 表现出显著的改进，GPT4 在许多复杂问题中展示了更深入的理解，并能够应用适当的推理。而 ChatGPT 通常会采用低级启发式方法，提到与问题仅是表面相关的公式和概念，表明缺乏实际理解。

以下是关于 ChatGPT 的使用方法： 1. 英文学习使用： 推特博主分享的 GPT 工作流，先将特定 prompt 喂给 ChatGPT（建议开新对话专门用于学习英文）。 ChatGPT 会扮演美国好朋友，对输入的英文和中文表达返回更地道的表达，对俚语部分加粗，还会举一反三给出更多例子。 输入特定语句，ChatGPT 会输出对话回顾并建议 3 个任务强化记忆。 建议使用方式：开一个窗口复制 prompt，手机端打开历史记录，点右上角耳机图标打电话，既能练口语又能练听力，结束后看回顾帮助阅读。 群友在讯飞上做了类似尝试，效果不错。 2. 苹果系统安装、订阅使用： 在 AppleStore 下载 ChatGPT，中国区需切换到美区，美区 AppleID 注册教程参考知乎链接： 。 支付宝购买苹果礼品卡：打开支付，地区切换到美区任意区，找到品牌精选 折扣礼品卡，点击大牌礼品卡，下滑找到 App Store&iTunes US 礼品卡，按需购买，建议先买 20 刀。 支付宝购买礼品卡后，在 apple store 中兑换礼品卡，然后在 chatgpt 中购买订阅 gpt plus，中途不想订阅可在订阅列表中取消。 3. 使用 ChatGPT 4o： 开启对话：打开 ChatGPT 应用或网页，点击开始对话，会员在苹果或安卓手机购买的，电脑上能登录。 体验最新语音对话功能：版本切到 ChatGPT 4o，点击右下角“耳机🎧”图标，选择一个声音即可体验流畅的语音对话。

ChatGPT 目前的发展情况如下： 早期 OpenAI 推出 ChatGPT 时称其为一种模型，后来在帮助页面中又称其为一种服务。目前我们所熟知的 ChatGPT 逐渐演变成了一种可以兼容多种 GPT 模型的聊天应用（服务）。 GPT4 于 2022 年 8 月完成训练，是 OpenAI 的旗舰项目，特别强调指令遵循能力，但存在可靠性问题，还不是最终的进化完成体，不过综合能力优秀。 开发过程中，研究人员将指令型数据和聊天数据混合，希望创造出既可以处理具体任务又能流畅聊天的模型，结果表明 chat 模型使用更简单，能更好地了解并处理自身潜在局限性，展现出更连贯的特征和更稳定的行为。 ChatGPT 的出现标志着聊天机器人技术的巨大进步，为人机交互带来了更加自然、智能的体验。它的“Generative”是通过结合上文计算下一个字的概率生成内容，“Pretrained”是基于海量的预训练数据集学习知识。

以下是关于如何应用 ChatGPT 提示词的一些方法： 1. 对于“Prompt 逆向工程：让 ChatGPT 模仿任何作家，完美续写红楼梦”的提示词，您可以按照以下步骤应用： 对给定的文本进行分析，提炼其语气、写作风格、用词、句式等写作要素。 生成逆向提示词，并将其发送给 ChatGPT，让其以任意主题写出与给定文本风格类似的文章。 可将生成的提示词应用于如编写大学新生代表的演讲稿等文本创作场景。 2. 对于“📘英文学习老师口语听力阅读一体化练习”的提示词，应用方式如下： 先将整段提示词喂给 ChatGPT（建议开一个新的对话专门用来学习英文）。 然后，当您输入英文和中文表达时，ChatGPT 会返回更地道的表达，并对俚语部分加粗，同时针对您发送的话题举一反三，结合欧美流行内容给出更多例子。 输入“Hey GPT,run the end of day task.”，ChatGPT 会输出今天的对话回顾，并建议 3 个推荐的任务，以强化记忆。 建议开一个窗口复制提示词，在手机端打开历史记录，点右上角的耳机图标打电话，既能练口语又能练听力，结束后看回顾帮助阅读。 3. 对于“ChatGPT 给 DALL·E 3 优化提示词的元提示”的提示词，应用时需注意： ChatGPT 会基于给定的图像描述使用 DALL·E 3 创建图像，并以纯文本形式总结用于生成图像的提示。 遵循相关政策，如翻译非英文描述、不创建超过 4 个图像、不创作特定人物形象等。 在生成字幕时，用三个形容词代替艺术家名字，包括相关艺术运动或时代，并提及主要媒体。 总是在标题开头提到图像类型，使人物形象描述多样化。

以下是为您设计的给豆包和 ChatGPT 的指令以及辩论规则： 指令： 豆包和 ChatGPT 需充分运用各自掌握的篮球知识和数据，对勒布朗·詹姆斯和迈克尔·乔丹谁是历史第一人的问题进行深入辩论。 要求从球员的个人能力、团队成就、影响力、比赛数据等多个方面进行分析和论证。 辩论规则： 每位参与者有固定的发言时间，例如每次发言不超过 3 分钟。 发言顺序交替进行，先由豆包开始第一轮发言。 辩论过程中，不得使用侮辱性或攻击性语言，保持理性和客观。 每轮发言结束后，另一方有 1 分钟的提问和反驳时间。 辩论共进行 5 轮，最后一轮为总结陈词，时间为 5 分钟。 观众可以在辩论结束后进行投票，选出他们认为表现更出色的一方。 希望这样的设计能让辩论具有可看性和激烈性！

不同厂家的 AI 产品底层算法通常是不一样的。 以常见的 ChatGPT 和豆包为例，ChatGPT 是由 OpenAI 开发的，其底层算法具有独特的特点和优势。而豆包是由字节跳动开发的，也有其自身的算法设计和优化。 在当前的 AI 领域，大多数 AI 应用程序都由大型语言模型（LLMs）驱动，其中只有几个基础模型，由少数几个组织创建。例如 OpenAI 制作了 GPT3.5 和 GPT4，Google 有 Bard 等。 从相关的访问量数据来看，不同的 AI 产品在市场上的表现也有所不同。比如在某些月份，ChatGPT 的访问量较高，而豆包的访问量也在不断变化。但这并不能直接反映其底层算法的差异，只是从侧面反映了它们在用户中的受欢迎程度和使用情况。

对于新手小白从 0 开始搭建 AI Agent，以下是一些建议： 1. 规划阶段： 制定任务的关键方法，总结任务目标与执行形式。 将任务分解为可管理的子任务，确立逻辑顺序和依赖关系。 设计每个子任务的执行方法。 2. 实施阶段： 在 Coze 上搭建工作流框架，设定每个节点的逻辑关系。 详细配置子任务节点，并验证每个子任务的可用性。 3. 完善阶段： 整体试运行 Agent，识别功能和性能的卡点。 通过反复测试和迭代，优化至达到预期水平。 此外，还需要了解一些关于 AI Agent 的基本概念： AI Agent 是基于大型语言模型（LLM）和其他技术实现的智能实体，其核心功能在于自主理解、规划决策、执行复杂任务。 AI Agent 包括 Chain（通常一个 AI Agent 可能由多个 Chain 组成，一个 Chain 视作是一个步骤，可以接受一些输入变量，产生一些输出变量，大部分的 Chain 是大语言模型完成的 LLM Chain）、Router（可以使用一些判定，甚至可以用 LLM 来判定，然后让 Agent 走向不同的 Chain）、Tool（Agent 上可以进行的一次工具调用，例如对互联网的一次搜索，对数据库的一次检索）。 常见的 AI Agent 有 Responser Agent（主 agent，用于回复用户）、Background Agent（背景 agent，用于推进角色当前状态）、Daily Agent（每日 agent，用于生成剧本，配套的图片，以及每日朋友圈）。这些 Agent 每隔一段时间运行一次（默认 3 分钟），会分析期间的历史对话，变更人物关系、反感度等，抽简对话内容，提取人物和用户的信息成为“增长的记忆体”，按照时间推进人物剧本，有概率主动聊天（与亲密度正相关，跳过夜间时间）。

以下是关于智能体搭建的相关知识： 智谱 BigModel 共学营第二期：把你的微信变成超级 AI 助理 1. 注册智谱 Tokens 智谱 AI 开放平台：https://bigmodel.cn/ 新注册用户，注册即送 2000 万 Tokens 充值/购买多种模型的低价福利资源包 直接充值现金，所有模型可适用：https://open.bigmodel.cn/finance/pay 语言资源包：免费 GLM4Flash 语言模型/ 多模态资源包： 多模态资源包： 所有资源包购买地址：https://bigmodel.cn/finance/resourcepack 共学营报名赠送资源包 2. 先去【财务台】左侧的【资源包管理】看看自己的资源包，本次项目会使用到的有 GLM4、GLM4VPlus、CogVideoX、CogView3Plus 模型。 3. 进入智能体中心我的智能体，开始创建智能体。此流程会手把手进行编辑，完成一个简单智能体的搭建，此智能体完成以下功能： 小众打卡地——优秀创作者奖 1. 智能体基本信息 名称：小众打卡地 链接：https://tbox.alipay.com/pro/share/202412APCyNn00194489?platform=WebService 2. 基本功能介绍：小众打卡地推荐，输入一个旅游目的地地点城市，给您推荐 3 个小众打卡地小红书类文案，适合分享或旅游参考，还有精美的旅行地配图。 3. 智能体核心价值 为用户发掘非大众化的特色景点，避开人流 提供个性化的旅行建议，并且有目的地的图片参考 帮助用户快速获取高质量的旅行参考信息 提供小红书文案，也适合发小红书 4. 智能体效果 输入一个目的地后，等待一小段时间，即可获得带图文案。从手机支付宝小程序更加方便，可以一键复制后获取。 5. 智能体搭建思路重点 录入了小红书的相关文案参考知识库 通过文本模型组成搜索词进行搜索，从搜索到的所有网页链接中，通过代码节点提取相关的 url 用代码节点滤除需要安全认证的网站，包括挑选一些非周边城市攻略推荐，并且尽量检查“小众”或“冷门” 通过 url 网页正文后，提取相关的小众地点输出，同时通过代码进行打卡点的字符串输出用于后续节点运用 根据需要搜索的小众旅行地进行图片搜索。此处代码节点随机提取一条图片的 url，注意此处在调试过程中发现有些图片搜索后的 url 打卡图片会失效，代码节点将部分失效的网站进行了过滤 最后的文案输出，非常适合小红书文案和旅行发布参考 智能体在品牌卖点提炼中的应用 1. 确定智能体的结构 按照市场营销的逻辑组织智能体的结构。 2. 搭建完整智能体 以品牌卖点提炼六步法为核心的流程，将其他的分析助手加入工作流中，包括： 品牌卖点定义与分类助手 品牌卖点提炼六步法 STP 市场分析助手 用户画像分析助手 触点收集助手 同时还包括一些结构中没有体现，但是在后续的品牌卖点应用过程中有效的分析工具： 用户需求分析的 KANO 助手 营销六层转化漏斗分析 超级转化率六要素

以下是关于如何搭建定制知识库的相关内容： 要搭建基于 GPT API 的定制化知识库，需要给 GPT 输入定制化的知识。但 GPT3.5（即当前免费版的 ChatGPT）一次交互支持的 Token 数量有限，约 4096 个，相当于 3000 个单词或 2300 个汉字，容量对于多数领域知识不够。为处理大量领域知识，OpenAI 提供了 embedding API 解决方案，可参考 OpenAI embedding documents。 embeddings 是浮点数字的向量（列表），两个向量之间的距离衡量它们的关联性，小距离表示高关联度，大距离表示低关联度。向量是用一串数字表示大小和方向的量，在计算机科学和数据科学中通常用列表表示。向量之间的距离是度量相似性的方法，常见的如欧几里得距离。在 OpenAI 词嵌入中，靠近的向量词语在语义上相似。 LlamaIndex 是更高一层 LangChain 的抽象，之前叫 GPT Index。之前的文章中的例子使用了 LlamaIndex 包，它简化了 LangChain 对文本分割和查询的接口，并提供了更丰富的 Data Connector。LlamaIndex 只针对 GPT Model 做 Index，而 LangChain 可对接多个 LLMs，可扩展性更强。参考 https://gptindex.readthedocs.io/en/latest/ 在基于大模型+知识库的 Code Review 实践中，对于自定义知识库飞书文档（自定义），没有格式要求，能看懂正确代码即可。可直接使用 LangChain 提供的文档加载类，对有权限的飞书文档进行获取，使用 CharacterTextSplitter/RecursiveCharacterTextSplitter 将文本分割成固定长度的块（chunks），方法有两个主要参数：chunk_size 控制每个块的长度，如设置为 1024，则每个块包含 1024 个字符；chunk_overlap 控制相邻两个块之间的重叠长度，如设置为 128，则每个块会与相邻块重叠 128 个字符。 因为大模型有足够多的数据，想让大模型按要求执行就需要用到“Prompt 提示词”。 最近各家大厂接连放大招，AI 技术和应用突飞猛进，GPT4 接口已支持最大 32K 输入，AI 的开发和使用门槛会越来越低。垂直领域知识库的搭建和优化可能更多是业务问题，而非技术问题。

搭建私人知识库可以参考以下方法： 1. 基于 GPT 搭建： 给 GPT 输入（投喂）定制化的知识，但 GPT3.5（即当前免费版的 ChatGPT）一次交互（输入和输出）只支持最高 4096 个 Token，约等于 3000 个单词或 2300 个汉字，容量对于绝大多数领域知识不够。 OpenAI 提供了 embedding API 解决方案，embeddings 是一个浮点数字的向量（列表），两个向量之间的距离衡量它们的关联性，小距离表示高关联度，大距离表示低关联度。 将大文本拆分成若干个小文本块（chunk），通过 embeddings API 将小文本块转换成 embeddings 向量，在一个地方（向量储存库）中保存这些 embeddings 向量和文本块，当用户提出问题时，将问题先通过 embeddings API 转换成问题向量，然后与向量储存库的所有文本块向量比对，查找距离最小的几个向量，把这几个向量对应的文本块提取出来，与原有问题组合成为新的 prompt（问题/提示词），发送给 GPT API。 2. 本地部署大模型搭建： 利用大模型的能力搭建知识库本身就是一个 RAG 技术的应用，在进行本地知识库的搭建实操之前，需要先对 RAG 有大概的了解。 RAG 的应用包括文档加载（从多种不同来源加载文档，LangChain 提供了 100 多种不同的文档加载器）、文本分割（把 Documents 切分为指定大小的块）、存储（将切分好的文档块进行嵌入转换成向量的形式，并将 Embedding 后的向量数据存储到向量数据库）、检索（通过某种检索算法找到与输入问题相似的嵌入片）、Output（把问题以及检索出来的嵌入片一起提交给 LLM，LLM 会通过问题和检索出来的提示一起来生成更加合理的答案）。 文本加载器就是将用户提供的文本加载到内存中，便于进行后续的处理。

以下是关于扣子应用搭建的相关内容： 白嫖 Groq 平台算力的落地应用： 通过扣子工作流，用代码模块进行 HTTP 访问，实现 0 token 脱离扣子模型来使用 Groq 作为 LLM，可参考梦飞大佬教程将扣子接入微信机器人（有微信封号风险）。 由于 Groq 的 API 与 OpenAI 的 API 几乎兼容，可以适配到任何 APP 产品填 APIKEY 调用的场景，以沉浸式翻译为例。 接入手机类 APP，比如通过快捷方式接入 Siri。 接入扣子工作流：搭建细节可移步 WaytoAGI 自学。建立工作流只需一个代码节点，需配置代码节点的输入引用、输出等。可建立 Bot 调用工作流，但建议不发布，以免代理流量被他人使用。 在扣子调用已有的 API 制作插件： Body：用于传递请求主体部分，GET 方法中通常不用于传递参数。 Path：用于定义请求路径部分，GET 方法中可传递参数，常编码为 URL 一部分。 Query：用于定义请求查询部分，是 GET 方法中常用的参数传递方式。 Header：用于定义 HTTP 请求头信息部分，GET 方法中通常不用于传递参数。配置输出参数，填对后可点击自动解析，调试与校验工具是否能正常运行。 搭建邮票收藏馆应用： 业务背景与逻辑梳理：源于客户需求，功能包括生成邮票、收藏邮票、收藏列表、查看藏品详情，规划了生成和查看两个页面。 页面设计： 第一页：导航栏有应用名称、查看收藏入口、用户头像；陈列展示生成的图片；生成和收藏部分可输入关键字生成并收藏。 第二页：收藏列表会加载用户所有收藏，数量超 100 需优化加翻页；收藏详情可查看大图、关键字、收藏时间。

以下是关于搜索模型搭建的相关知识： 嵌入（Embeddings）： 概述：第一代模型（以001结尾的模型）都使用 GPT3 分词器，最大输入为 2046 个分词。第一代嵌入由五个不同的模型系列生成，针对三个不同任务进行调整，包括文本搜索、文本相似性和代码搜索。搜索模型成对出现，有用于短查询和长文档的。不同系列包括多种质量和速度不同的型号，如 Davinci 能力最强但更慢更贵，Ada 能力最差但速度快成本低。 相似性嵌入：最擅长捕捉文本片段之间语义相似性，如 textsimilaritybabbage001、textsimilaritycurie001、textsimilaritydavinci001。 文本搜索嵌入：有助于衡量长文档与短搜索查询的相关性，使用两种模型，分别用于嵌入搜索查询和要排名的文档，如 textsearchadaquery001 等。 代码搜索嵌入：与搜索嵌入类似，有两种类型，分别用于嵌入自然语言搜索查询和要检索的代码片段，如 codesearchadatext001 等。对于001 文本嵌入，建议将输入中的换行符替换为单个空格。 部署大语言模型： 下载并安装 Ollama：根据电脑系统，从 https://ollama.com/download 下载，双击打开点击“Install”，安装完成后将下方地址复制进浏览器中，若出现相关字样表示安装完成，即 http://127.0.0.1:11434/ 。 下载 qwen2:0.5b 模型：Windows 电脑按 win+R 输入 cmd 回车，Mac 电脑按下 Command（⌘）+Space 键打开 Spotlight 搜索输入“Terminal”或“终端”选择“终端”应用程序，复制相关命令行粘贴回车等待完成。 检索原理： 信息筛选与确认：对检索器提供的信息进行评估，筛选出最相关和最可信的内容，涉及对信息来源、时效性和相关性的验证。 消除冗余：识别和去除多个文档或数据源中的重复信息。 关系映射：分析不同信息片段之间的逻辑和事实关系，如因果、对比、顺序等。 上下文构建：将筛选和结构化的信息组织成连贯的上下文环境，包括排序、归类和整合。 语义融合：合并意义相近但表达不同的信息片段。 预备生成阶段：整合好的上下文信息被编码成适合生成器处理的格式。 大模型生成回答：全新的上下文传递给大语言模型，大语言模型根据提供的信息回答问题。