直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

本地化搭建问答机器人流程

回答

本地化搭建问答机器人的流程如下：

  1. 加载所需的库和模块：包括用于解析 RSS 订阅源的 feedparse，用于在 Python 程序中跑大模型的 ollama（使用前需确保 ollama 服务已开启并下载好模型）。
  2. 从订阅源获取内容：通过函数从指定的 RSS 订阅 url 提取内容，如需接收多个 url 稍作改动即可。然后使用专门的文本拆分器将长文本拆分成较小的块，并附带相关元数据，最终合并成列表返回用于后续处理或提取。
  3. 为文档内容生成向量：使用文本向量模型 bge-m3（从 hf 下载好模型后假设放置在某个路径，通过函数利用 FAISS 创建高效的向量存储）。
  4. 推荐 RSSHub 项目：可将关注的信息汇聚在同一平台，一旦有更新能在各种终端收到提醒。其为各种网站生成 RSS 源，大部分社交媒体、传统媒体和金融媒体都能配合订阅。
  5. 流程拆解：
    • 创建 Python 虚拟环境，并安装相关库，如 ollama（0.1.8）、langchain（0.1.14）、faiss-cpu（1.8.0，有 gpu 则安装 gpu 版本）、gradio（4.25.0）、feedparser（6.0.11）、sentence-transformers（2.6.1）、lxml（5.2.1）。
  6. 了解 ollama：
    • 支持多种大型语言模型，包括通义千问、Llama 2、Mistral 和 Gemma 等，适用于不同场景。
    • 易于使用，适用于 macOS、Windows 和 Linux 系统，支持 cpu 和 gpu。
    • 提供模型库，用户可从中下载不同模型，满足不同需求和硬件条件，模型库可通过 https://ollama.com/library 查找。
    • 支持自定义模型，可修改温度参数等。
    • 提供 REST API 用于运行和管理模型及与其他应用集成。
    • 社区贡献丰富，有多种集成插件和界面。
    • 先安装 ollama，访问 https://ollama.com/download/ 下载安装。安装完确保 ollama 后台服务已启动（在 mac 上启动应用程序，在 linux 上通过 ollama serve 启动），可通过 ollama list 确认，未下载模型时正常显示空，可通过 ollama 命令下载模型。
内容由 AI 大模型生成，请仔细甄别（powered by aily）

参考资料

本地部署资讯问答机器人：Langchain+Ollama+RSSHub 实现 RAG

加载所需的库和模块。其中，feedparse用于解析RSS订阅源ollama用于在python程序中跑大模型，使用前请确保ollama服务已经开启并下载好模型|从订阅源获取内容下面函数用于从指定的RSS订阅url提取内容，这里只是给了一个url，如果需要接收多个url，只要稍微改动即可。然后，通过一个专门的文本拆分器将长文本拆分成较小的块，并附带相关的元数据如标题、发布日期和链接。最终，这些文档被合并成一个列表并返回，可用于进一步的数据处理或信息提取任务。|为文档内容生成向量这里，我们使用文本向量模型bge-m3。https://huggingface.co/BAAI/bge-m3bge-m3是智源研究院发布的新一代通用向量模型，它具有以下特点：支持超过100种语言的语义表示及检索任务，多语言、跨语言能力全面领先（M ulti-Lingual）最高支持8192长度的输入文本，高效实现句子、段落、篇章、文档等不同粒度的检索任务（M ulti-Granularity）同时集成了稠密检索、稀疏检索、多向量检索三大能力，一站式支撑不同语义检索场景（M ulti-Functionality）从hf下载好模型之后，假设放置在某个路径/path/to/bge-m3，通过下面函数，利用FAISS创建一个高效的向量存储。|实现RAG

本地部署资讯问答机器人：Langchain+Ollama+RSSHub 实现 RAG

在这种情况下，我们可能会把网站添加到书签栏，然后时不时就会打开看一下，这种做法无疑是比较低效的，一旦网站变多，更是不现实。如果我们能把真正想要关注的信息汇聚在同一个平台上，并且一旦有更新，就能第一时间在各种终端（如电脑、手机、Kindle等）收到提醒，那岂不是美哉。这里，我给大家推荐一个宝藏项目：RSSHubhttps://docs.rsshub.app/zh/感谢RSSHub这个开源项目，它给各种各样的网站生成了RSS源，堪称「万物皆可RSS」。你能想到的大部分社交媒体（如微博、Twitter、知乎等）、传统媒体（如央视新闻、路透社等）和金融媒体（如财联社、东方财富、格隆汇等），都能够配合RSSHub，进行订阅。通过RSSHub以及其他渠道，我个人维护了一个订阅源，如下：感兴趣的读者，关注本公众号，然后发送rss，即可下载我打包好的RSS订阅源。那么，有了RSS订阅源，我们就可以通过Python解析RSS订阅源来实时获取相关数据。流程拆解有了数据，就意味着成功了一半。|创建Python虚拟环境创建python虚拟环境，并安装相关库，我安装的是当前最新的库，版本如下：ollama：0.1.8langchain：0.1.14faiss-cpu：1.8.0（如果有gpu，则安装gpu版本）gradio：4.25.0feedparser：6.0.11sentence-transformers：2.6.1lxml：5.2.1|导入依赖库

本地部署资讯问答机器人：Langchain+Ollama+RSSHub 实现 RAG

1.支持多种大型语言模型：Ollama支持包括通义千问、Llama 2、Mistral和Gemma等在内的多种大型语言模型，这些模型可用于不同的应用场景。2.易于使用：Ollama旨在使用户能够轻松地在本地环境中启动和运行大模型，适用于macOS、Windows和Linux系统，同时支持cpu和gpu。3.模型库：Ollama提供了一个模型库，用户可以从中下载不同的模型。这些模型有不同的参数和大小，以满足不同的需求和硬件条件。Ollama支持的模型库可以通过https://ollama.com/library进行查找。4.自定义模型：用户可以通过简单的步骤自定义模型，例如修改模型的温度参数来调整创造性和连贯性，或者设置特定的系统消息。5.API和集成：Ollama还提供了REST API，用于运行和管理模型，以及与其他应用程序的集成选项。6.社区贡献：Ollama社区贡献丰富，包括多种集成插件和界面，如Web和桌面应用、Telegram机器人、Obsidian插件等。7.总的来说，Ollama是一个为了方便用户在本地运行和管理大型语言模型而设计的框架，具有良好的可扩展性和多样的使用场景。后面在捏Bot的过程中需要使用Ollama，我们需要先安装，访问以下链接进行下载安装。https://ollama.com/download/安装完之后，确保ollama后台服务已启动（在mac上启动ollama应用程序即可，在linux上可以通过ollama serve启动）。我们可以通过ollama list进行确认，当我们还没下载模型的时候，正常会显示空：可以通过ollama命令下载模型，目前，我下载了4个模型：几个模型简介如下:

其他人在问
可不可以提供一个本地化的大模型方法，让我建立这个合规法律的知识库
以下是为您提供的本地化大模型及搭建合规法律知识库的方法： 一、通过 Open WebUI 使用大模型 1. 首先访问相关网址。打开页面时需使用邮箱注册账号。 2. 登陆成功后，若您使用过类似 ChatGPT 的大模型对话网站，对该页面不会陌生。 3. Open WebUI 一般有两种使用方式： 聊天对话。 RAG 能力，即让模型根据文档内容回答问题，这是构建知识库的基础之一。 4. 如果要求不高，此时已搭建本地大模型，并通过 Web UI 实现对话功能。 5. ChatGPT 访问速度快且回答效果好的原因： 速度快是因为 GPT 大模型部署的服务器配置高。 效果好是因为 GPT 大模型的训练参数多、数据更优及训练算法更好。 二、您的硬件达标了么 运行大模型需要很高的机器配置，个人玩家大多负担不起。以下是不同类型大模型的配置要求： 1. 生成文字大模型： 最低配置：8G RAM + 4G VRAM 建议配置：16G RAM + 8G VRAM 理想配置：32G RAM + 24G VRAM（如果要跑 GPT3.5 差不多性能的大模型） 2. 生成图片大模型（比如跑 SD）： 最低配置：16G RAM + 4G VRAM 建议配置：32G RAM + 12G VRAM 3. 生成音频大模型： 最低配置：8G VRAM 建议配置：24G VRAM 最低配置运行非常慢，不建议使用。但这不妨碍我们亲自实操一遍，以加深对大模型构建知识库底层原理的了解。若想要更顺滑的体验知识库，可以参考文章： 三、本地知识库进阶 若要更灵活掌控知识库，需额外软件 AnythingLLM。它包含 Open WebUI 的所有能力，并额外支持以下能力： 1. 选择文本嵌入模型。 2. 选择向量数据库。 AnythingLLM 安装和配置 安装地址：https://useanything.com/download 。安装完成后进入配置页面，主要分为三步： 1. 第一步：选择大模型。 2. 第二步：选择文本嵌入模型。 3. 第三步：选择向量数据库。 构建本地知识库 AnythingLLM 中有 Workspace 的概念，可创建独有的 Workspace 与其他项目数据隔离。具体步骤： 1. 首先创建一个工作空间。 2. 上传文档并在工作空间中进行文本嵌入。 3. 选择对话模式。AnythingLLM 提供两种对话模式： Chat 模式：大模型会根据自己的训练数据和上传的文档数据综合给出答案。 Query 模式：大模型仅依靠文档中的数据给出答案。 4. 测试对话。完成上述配置后，即可与大模型进行对话。 四、写在最后 “看十遍不如实操一遍，实操十遍不如分享一遍”。若您对 AI Agent 技术感兴趣，可以联系我或者加我的免费知识星球（备注 AGI 知识库）。
2024-12-18
本地化单机版问答AI怎样创建，需要详细操作代码步骤
以下是创建本地化单机版问答 AI 的一般步骤： 1. 基于用户的问题，从向量数据库中检索相关段落，并根据设定的阈值进行过滤，最后让模型参考上下文信息回答用户的问题，从而实现 RAG。 2. 创建网页 UI，通过 gradio 创建网页 UI，并进行评测。 3. 对于同样的问题和上下文，基于 Qwen7b、Gemma、Mistral、Mixtral 和 GPT4 分别进行多次测试。 4. 主要结论（只是针对有限的几次测试，个人主观评判）： GPT4 表现最好，指令遵循能力很强，在回答的时候能附上引用段落编号。 Mixtral 表现第二，但没有在回答的时候附上引用。 Qwen7b 表现第三，也没有在回答的时候附上引用。 Gemma 表现一般，而且回答里面有一些幻觉。 Mistral 表现一般，使用英文回复，不过在回答的时候附上了引用段落编号。 总结： 1. 本文展示了如何使用 Langchain 和 Ollama 技术栈在本地部署一个资讯问答机器人，同时结合 RSSHub 来处理和提供资讯。 2. 上下文数据质量和大模型的性能决定了 RAG 系统性能的上限。 3. RAG 通过结合检索技术和生成模型来提升答案的质量和相关性，可以缓解大模型幻觉、信息滞后的问题，但并不意味着可以消除。 需要上述完整代码的读者，关注本公众号，然后发送 fin，即可获取 github 仓库代码链接。
2024-11-28
本地化单机版问答AI怎样创建
创建本地化单机版问答 AI 可以通过以下步骤实现： 1. 基于用户的问题，从向量数据库中检索相关段落，并根据设定的阈值进行过滤，最后让模型参考上下文信息回答用户的问题，从而实现 RAG。 2. 创建网页 UI，通过 gradio 创建，并进行评测。 3. 对于同样的问题和上下文，基于 Qwen7b、Gemma、Mistral、Mixtral 和 GPT4 分别进行多次测试。主要结论（只是针对有限的几次测试，个人主观评判）如下： GPT4 表现最好，指令遵循能力很强，在回答的时候能附上引用段落编号。 Mixtral 表现第二，但没有在回答的时候附上引用。 Qwen7b 表现第三，也没有在回答的时候附上引用。 Gemma 表现一般，而且回答里面有一些幻觉。 Mistral 表现一般，使用英文回复，不过在回答的时候附上了引用段落编号。 总结： 1. 本文展示了如何使用 Langchain 和 Ollama 技术栈在本地部署一个资讯问答机器人，同时结合 RSSHub 来处理和提供资讯。 2. 上下文数据质量和大模型的性能决定了 RAG 系统性能的上限。 3. RAG 通过结合检索技术和生成模型来提升答案的质量和相关性，可以缓解大模型幻觉、信息滞后的问题，但并不意味着可以消除。 如需获取上述完整代码，关注本公众号，然后发送 fin，即可获取 github 仓库代码链接。
2024-11-28
蛟龙16pro配置（处理器R7-7745HX,显卡RTX4060 8G,硬盘512GPCIE4.0SSD）可以用于审计人员本地化部署大模型用于数据分析工作吗
蛟龙 16pro 的配置（处理器 R77745HX，显卡 RTX4060 8G，硬盘 512G PCIE4.0 SSD）对于审计人员本地化部署大模型用于数据分析工作来说，可能存在一定的局限性。 处理器 R77745HX 具有一定的计算能力，但在处理大规模数据和复杂的模型运算时，其性能可能不够强劲。 显卡 RTX4060 8G 对于一些较为复杂的图形处理和计算任务能够提供一定的支持，但对于大规模的深度学习模型训练和数据分析，可能会显得不足。 512G 的 PCIE4.0 SSD 硬盘容量相对较小，在存储大量数据时可能会很快耗尽空间。 综上所述，该配置在一定程度上可以用于简单的数据分析任务，但对于较为复杂和大规模的大模型本地化部署及数据分析工作，可能需要更强大的硬件配置，例如更高性能的处理器、更大容量和更高性能的显卡，以及更大的存储空间。
2024-09-14
蛟龙16pro配置可以用于审计人员本地化部署大模型用于数据分析工作吗
蛟龙 16pro 的配置信息对于能否用于审计人员本地化部署大模型进行数据分析工作，需要更多关于该设备具体配置的详细信息才能准确判断。一般来说，本地化部署大模型进行数据分析工作对计算机的硬件配置有较高要求，包括但不限于强大的 CPU 性能、充足的内存容量、高速的存储设备以及优秀的显卡性能等。如果您能提供蛟龙 16pro 更详细的配置参数，我可以为您做出更准确的评估和建议。
2024-09-14
为审计人员利用大模型本地化部署进行数据分析的电脑如何配置
对于审计人员利用大模型本地化部署进行数据分析的电脑配置，以下是相关建议： 生成文字大模型： 最低配置：8G RAM + 4G VRAM 建议配置：16G RAM + 8G VRAM 理想配置：32G RAM + 24G VRAM（如果要跑 GPT3.5 差不多性能的大模型） 生成图片大模型（比如跑 SD）： 最低配置：16G RAM + 4G VRAM 建议配置：32G RAM + 12G VRAM 生成音频大模型： 最低配置：8G VRAM 建议配置：24G VRAM 需要注意的是，最低配置运行速度可能非常慢。另外，对于 SDXL 的大模型，分为两个部分： 第一部分，base + refiner 是必须下载的，base 是基础模型，用于文生图操作；refiner 是精炼模型，用于对生成的模型进行细化，生成细节更丰富的图片。 第二部分，还有一个配套的 VAE 模型，用于调节图片的画面效果和色彩。 想要在 webUI 中使用 SDXL 的大模型，首先要在秋叶启动器中将 webUI 的版本升级到 1.5 以上。接下来，将模型放入对应的文件夹中，base 和 refiner 放在“……\\sdwebuiakiv4.2\\models\\Stablediffusion”路径下；vae 放在“……\\sdwebuiakiv4.2\\models\\VAE”路径下。完成之后，启动 webUI，就可以在模型中看到 SDXL 的模型。
2024-09-12
我想用coze搭建一个智能体，关于自然语言课程的期末复习指南，要将我的教材导入扣子作为知识库，智能体支持用户提问，搜索知识点，结合知识库和互联网搜索的内容给出问答，需要使用多智能体或工作流，使用卡片功能进行显示，请给出我搭建这个智能体的步骤
以下是使用 Coze 搭建一个关于自然语言课程期末复习指南智能体的步骤： 1. 访问 Coze 官网（https://www.coze.cn），注册并登录。 2. 点击页面左上角的⊕，通过【标准创建】填入智能体的基本信息。 3. 了解 Bot 开发调试界面： 人设与回复逻辑（左侧区域）：设定智能体的对话风格、专业领域定位，配置回复的逻辑规则和限制条件，调整回复的语气和专业程度。 功能模块（中间区域）： 技能配置： 插件：扩展智能体的专业能力，如计算器、日历等工具。 工作流：设置固定的处理流程和业务逻辑。 图像流：处理和生成图像的相关功能。 触发器：设置自动化响应条件。 知识库管理： 文本：存储文字类知识材料。 表格：结构化数据的存储和调用。 照片：图像素材库。 记忆系统： 变量：存储对话过程中的临时信息。 数据库：管理持久化的结构化数据。 长期记忆：保存重要的历史对话信息。 文件盒子：管理各类文档资料。 交互优化（底部区域）： 开场白：设置初次对话的问候语。 用户问题建议：配置智能推荐的后续问题。 快捷指令：设置常用功能的快速访问。 背景图片：自定义对话界面的视觉效果。 预览与调试（右侧区域）：实时测试智能体的各项功能，调试响应效果，优化交互体验。 4. 设定智能体的人设与回复逻辑后，为智能体配置对应的技能，以保证其可以按照预期完成目标任务。例如，以获取 AI 新闻的智能体为例，需要为它添加一个搜索新闻的接口来获取相关新闻。具体操作如下： 在智能体编排页面的技能区域，单击插件功能对应的+图标。 在添加插件页面，选择相关功能，然后单击新增。 修改人设与回复逻辑，指示智能体使用相应插件来搜索所需内容。 （可选）为智能体添加开场白，让用户更好地了解智能体的功能。开场白功能目前支持豆包、微信公众号（服务号）。 5. 配置好智能体后，在预览与调试区域中测试智能体是否符合预期。可单击清除图标清除对话记录。 6. 完成测试后，将智能体发布到社交渠道中使用。具体操作如下： 在智能体的编排页面右上角，单击发布。 在发布页面输入发布记录，并勾选发布渠道。 单击发布。 更多内容，请访问 Coze 官方文档： 英文版：https://www.coze.com/docs/welcome.html 中文版：https://www.coze.cn/docs/guides/welcome
2024-12-20
如何搭建问答库
搭建问答库可以通过以下方式实现： 1. 利用 RAG 机制： RAG 机制全称为“检索增强生成”（RetrievalAugmented Generation），是一种用于自然语言处理的技术，结合了检索和生成两种主要的人工智能技术，以提高机器对话和信息处理的能力。 它先从大型数据集中检索与当前问题相关的信息，然后利用这些信息生成更准确、相关的回答。 可以想象成在问复杂问题时，RAG 机制先去巨大图书馆找相关书籍，再基于这些书籍信息给出详细回答。 这种方法结合大量背景信息和先进语言模型能力，使生成内容更精确，提升对话 AI 的理解力和回答质量。 基于 RAG 机制，首先创建包含大量社区 AI 相关文章和资料的知识库，通过手工录入方式上传文章内容，如创建有关 AI 启蒙和信息来源的知识库，再陆续导入其他板块的文章和资料。 在设计 Bot 时，添加知识库，并设置合适的搜索策略、最大召回数量和最小匹配度，以更好地利用知识库返回的内容进行结合回答。 2. 使用 embeddings： 将文本转换成向量能节省空间，可理解为索引。 把大文本拆分成若干小文本块，通过 embeddings API 将小文本块转换成与语义相关的 embeddings 向量，并在向量储存库中保存这些向量和文本块作为问答的知识库。 当用户提出问题时，问题先通过 embeddings API 转换成问题向量，然后与向量储存库中的所有文本块向量比对，查找距离最小的几个向量，提取对应的文本块，与原有问题组合成新的 prompt 发送给 GPT API。 例如，对于一篇万字长文拆分成多个文本块，当提问“此文作者是谁？”时，通过比较 embeddings 向量可找出关联度最高的文本块，发送给 GPT API 的问题类似于“此文作者是谁？从以下信息中获取答案：本文作者：越山。xxxx。《反脆弱》作者塔勒布xxxx。”，大语言模型大概率能回答上这个问题。
2024-12-11
企业在构建AI智能体问答助手可能会遇到哪些挑战及痛点？
企业在构建 AI 智能体问答助手时可能会遇到以下挑战及痛点： 1. 私有化部署方面：在金融、医疗和法律等对数据私密性要求极高的中小型行业，私有化部署场景需求大，增加了企业培训的难度。 2. 模型接入方面：访问 GPT 存在门槛，国企类、体制类合作伙伴受限，需寻找更易于接入的国产模型替代，如智谱等。 3. 工程化落地方面：企业知识库大多卡在工程问题上，真正能落地的不多，数据清理难度大，技术能力要求高于预期。对于规模不大且无数字化系统的企业，实际落地成本可能不比传统人力成本节省更多。 4. 对企业了解不足：在品牌卖点提炼中，AI 对企业的主要产品、解决的用户需求、产品独特之处、所获认可、核心渠道、核心购买人群、营销手段、新渠道期望结果等了解程度接近于 0，难以直接给出有效卖点，更适合作为引导型的灵感提问助手。 以下是一些 Agent 构建平台供您参考： 1. Coze：新一代一站式 AI Bot 开发平台，集成丰富插件工具，拓展 Bot 能力边界。 2. Mircosoft 的 Copilot Studio：主要功能包括外挂数据、定义流程、调用 API 和操作，以及部署到各种渠道。 3. 文心智能体：百度推出的基于文心大模型的智能体平台，支持开发者打造产品能力。 4. MindOS 的 Agent 平台：允许用户定义 Agent 的个性、动机、知识，以及访问第三方数据和服务或执行工作流。 5. 斑头雁：2B 基于企业知识库构建专属 AI Agent 的平台，适用于多种场景，提供多种成熟模板。 6. 钉钉 AI 超级助理：依托钉钉优势，在处理高频工作场景方面表现出色。 请注意，以上信息由 AI 大模型生成，请仔细甄别。
2024-12-05
企业在构建AI智能问答助手可能会遇到哪些挑战及痛点？
企业在构建 AI 智能问答助手可能会遇到以下挑战及痛点： 1. 私有化部署的挑战：在金融、医疗和法律等许多中小型行业，对数据私密性要求极高，需要私有化部署，这大大增加了企业培训的难度。 2. 模型接入的限制：访问 GPT 有门槛，国企类、体制类的合作伙伴往往被拦截在外，需要寻找更易于接入的国产模型作为替代方案。 3. 工程化落地困难：企业知识库大部分卡在工程问题上，真正能落地的不多，数据清理部分难度较大，技术能力要求比想象中更高。 4. 成本问题：对于规模不大且没有数字化系统的企业，私有化部署的实际落地成本可能不比传统人力成本节省更多。
2024-12-05
我现在需要实现知识库问答、文件下载、转人工客服这几个关键功能，有什么AI工具可以推荐的吗
以下是为您推荐的一些可能适用于实现知识库问答、文件下载、转人工客服等关键功能的 AI 工具： 1. ChatGPT 4.0：功能强大，但使用可能存在一定限制。 2. Kimichat：可作为选择之一。 3. 智谱清言：在某些方面具有优势。 需要注意的是，对于 AI 绘画方面，如果您有相关需求，一些国产大模型如智谱和文心可以实现文生图的功能。另外，如果是文本纠错，飞书文档自带纠错功能，用 prompt 纠错时文本量不能太大。关于让 AI 根据文章自己写 prompt 的问题，关键在于明确所需 prompt 的具体类型和要求。如果只是用于自己学习，长期学习不一定必须要 iPhone 手机或对显卡有特定要求，若 ChatGPT 交费有问题且没有途径，可以考虑上述推荐的其他工具。
2024-12-04
怎么对飞书知识库进行对话问答
以下是关于飞书知识库进行对话问答的相关内容： 1. 关于飞书智能伙伴创建平台： 飞书智能伙伴创建平台（Aily）是飞书团队旗下的企业级 AI 应用开发平台，提供简单、安全且高效的环境，帮助企业构建和发布 AI 应用，推动业务创新和效率提升。 云雀是字节跳动研发的语言模型，能通过自然语言交互高效完成互动对话、信息获取、协助创作等任务。 2. 如何使用问答机器人： 方法 1：在 WaytoAGI 飞书知识库首页找到加入飞书群的链接（最新二维码在知识库首页），加入后直接@机器人。 方法 2：在 WaytoAGI.com 的网站首页，直接输入问题即可得到回答。 3. 问答机器人的作用： 知识库内容庞大，新用户难以快速找到所需内容。 传统搜索基于关键词及相关性，存在局限性。 采用更先进的 RAG 技术，在群中提供便捷的信息检索方式。 4. 在 AI 商用级问答场景中让回答更准确： 问答机器人的配置包括 AI 模型、提示词和知识库。 大语言模型如同拥有无穷智慧的人，提示词可让其成为所需“员工”，知识库则是工作手册。 例如设定使用阿里千问模型，提示词角色为“美嘉”，知识库为《爱情公寓》全季剧情。 5. 实现知识库问答： 知识库问答利用大模型的 RAG 机制，即“检索增强生成”技术，结合检索和生成提高机器对话和信息处理能力。 先从大型数据集中检索与问题相关的信息，再利用这些信息生成回答，可想象成先在巨大图书馆找相关书籍再给出详细回答。 基于 RAG 机制，创建包含大量文章和资料的知识库，通过手工录入上传内容，并在设计 Bot 中添加知识库，设置合适的搜索策略、最大召回数量和最小匹配度，以结合知识库内容进行回答。
2024-12-03
智能体搭建案例
以下为您提供两个智能体搭建案例： 案例一： 智能体名称：市场分析报告 智能体简介：品牌营销公司在用的生成智能体，输入行业/类目关键词自动检索关联信息并生成报告。数据化呈现更具真实性，附带信息来源网址便于源信息校正。可帮助品牌主/营销人员减少信息收集时间，聚焦决策判断。 应用场景： 目标人群：企业管理层（做发展策略评估）、投资者（评估投资机会）、创业者（评估项目可行性）、营销人员（做营销计划依据）。 当前痛点：信息收集需要长时间；报告的真实性是否可验证；现有大模型做的市场报告太过概念化，不能做有效参考。 应用价值：减少信息收集时间、真实可验证、聚焦决策判断。 智能体主要功能：根据用户的要求或指定的行业、产品，搜索网络信息，生成一份完整的市场调研报告，用数据支撑，并附引用链接。 案例二： 智能体开发平台：字节扣子和腾讯元器。 概念定义：智能体（Agent）简单理解就是 AI 机器人小助手，参照移动互联网，类似 APP 应用的概念。AI 大模型是技术，面向用户提供服务的是产品，很多公司开始关注 AI 应用层的产品机会。 C 端案例：社交方向，用户注册后先捏一个自己的 Agent，然后让自己的 Agent 和其他人的 Agent 聊天，两个 Agent 聊到一起后再真人介入；还有借 Onlyfans 入局打造个性化聊天的创业公司。 B 端案例：帮助 B 端商家搭建 Agent。 智能体开发平台介绍：字节于 2 月 1 日正式推出 AI 聊天机器人构建平台 Coze 的国内版“扣子”，主要用于开发下一代 AI 聊天机器人。国内还有很多智能体开发平台，如 Dify.AI，但个人比较常用的还是扣子。
2024-12-20
怎么用扣子搭建一个仿写文章的智能体
以下是关于用扣子搭建仿写文章智能体的相关信息： 生物医药小助手：这是生物医药垂直领域的第一个智能体，其创建者将个人发布的大量生物医药文章转化为可交互数据库，以解决读者咨询占用过多时间的问题。通过扣子平台，解决了高成本搭建问题，并实现了一问一答的形式，用户可在扣子的 bot 商店或公众号中发起问答。 手搓插件：可参考相关文章和链接，了解在扣子中手搓插件的方法，包括 API 参数测试等步骤。 竖起耳朵听智能体：其编排包括插件、工作流和知识库。插件如同工具箱，可添加现有或自制的 API 以增强智能体能力；工作流像可视化拼图游戏，由多个节点组成，可组合各种功能创建复杂稳定的业务流程。 如果您想进一步了解具体的搭建步骤和细节，还需要您提供更明确的需求。
2024-12-19
零基础模板化搭建 AI 聊天机器人
以下是零基础模板化搭建 AI 微信聊天机器人的相关内容： 开始搭建 1. 配置腾讯云轻量应用服务器 重点在于修改 dockercompose.yml 文件中的具体配置，以串联微信号和已创建好的 AI 机器人。配置参考来源为：https://docs.linkai.tech/cow/quickstart/config 。 配置参数中，名称的全大写描述需对应编排模板，如 open_ai_api_key 对应 OPEN_AI_API_KEY ，model 对应 MODEL 等。 私聊或群聊交流时，最好加上前缀触发机器人回复，如配置的 ，即 SINGLE_CHAT_PREFIX ，私聊或群里发消息包含 bot 或 @bot 才会触发机器人回复。在群组里，对应配置参数是 GROUP_CHAT_PREFIX ，机器人只会回复群里包含 @bot 的消息。 GROUP_NAME_WHITE_LIST 用于配置哪些群组的消息需要自动回复，例如 ，即只有这些群组的消息才会自动回复。 2. 配置部署 COW 组件 假设对接的微信号名称叫安仔机器人，更新最终版的配置参数（GROUP_NAME_WHITE_LIST 参数根据交互的群组进行具体修改），查看无误后点击保存，编排模板创建成功。 切换到容器编排界面，基于创建的模板进行 COW 服务部署，点击添加后等待部署完成。 疑问解答 1. 容器编排模板是一种配置文件，定义了如何在 Docker 中部署和管理多个容器。通过编排模板，可一键部署复杂的应用环境，无需手动配置每个容器细节。本文中通过容器编排模板配置了 COW 组件，使其能与微信和极简未来平台交互。 2. Docker 提供隔离运行环境，确保应用程序在任何环境稳定运行。通过 Docker 部署 COW 组件，可简化安装和配置过程，确保每次部署环境一致，且易管理和维护。 3. 配置多个前缀（如“bot”、“@bot”）可确保只有特定情况下机器人才会回复，避免在群聊或私聊中频繁干扰，提高响应准确性和用户体验。 4. 扫码登录失败时，可尝试以下步骤： 重启 Docker 容器：在宝塔面板中找到对应的容器，点击“重启”。 检查网络连接：确保服务器和微信客户端能正常访问互联网。 重新扫描二维码：等待容器重新启动后，重新扫描日志中生成的二维码。 5. 实际上使用不会很贵。极简未来平台按使用量收费，对于一般用户费用相对低廉，充值少量费用通常可用很长时间。同时，平台还提供每天签到免费领取积分的福利，进一步降低使用成本。 6. 极简未来平台创建 AI 机器人的费用，具体因使用量而异。
2024-12-18
搭建一个专业的律师智能体
搭建一个专业的律师智能体需要考虑以下几个方面： 1. 多智能体的通信问题：不同智能体之间的通信至关重要，包括如何传递信息以及传递哪些信息。之前的很多多智能体开源框架存在效率低下和 token 消耗大的问题，而像 OpenAI 官方开源的多智能体框架「Swarm」在「Handoffs」方面处理得较为优雅。 2. 智能体的角色和职责：以客服多智能体为例，只需要准备如普通接线客服和宽带客服这样必要的 Agent，并明确其职责和交接逻辑。 3. 提示词的编写：对于律师智能体，写好提示词很重要。例如，在写作时需要对文章中出现的案例进行脱敏处理，替换具体的人物姓名、时间和地点。同时，注意深化写作时的分段和字数要求。 4. 遵循特定的规则和要求：像令中规定的初始化问候语、牢记并遵守全部要求等。 5. 决策智能体的应用：决策智能体在企业自动化中发挥作用，如在复杂、多步骤的推理流程中导航并做出业务决策。以 Anterior 为例，将付款方规则转换为有向无环图，利用智能体遍历决策树并评估相关文件。其他领域如 Norm AI 和 Parcha 也在利用决策智能体。
2024-12-17
有哪些入门级的搭建工作流术语
以下是一些入门级的搭建工作流术语及相关内容： 在典型应用场景中，入门级场景可能仅添加一个节点来构建简单工作流。例如，使用获取新闻插件构建一个获取新闻列表的工作流；使用大模型节点接收并处理用户问题等。 端口设置方法：通过神秘代码让所有联网操作应用指定端口，端口号一般在代理选项中，将其填入相关代码，在 CMD 中复制粘贴代码回车，无反应即成功，需安装 Git。 工作流搭建过程：从零开始搭建工作流，如加载 checkpoint loader、prompt 等节点，按颜色连接，未连接会报错，连接后填写提示词即可生成图像。 工作流原理讲解：以做菜为例，空的 latent 是锅，代表图片大小；模型是食材，正反向提示词是菜谱，VE 是调料，按颜色连接各部分。 使用他人工作流：从工作流网站下载 json 文件，拖入相关界面，若有爆红说明有节点未安装，可在 manager 中安装缺失节点。 工作流本地与在线使用方法：介绍了工作流在本地和在线的使用步骤，如安装、处理报错、放置模型文件等。 解决工作流依赖冲突：讲解了通过修改 cast NODE 里的 requirements 来解决依赖冲突的方法。 网页版工具的使用：指出很多工具都有网页版，本地没有工具时可用网页版。 涉及的应用领域包括大摩托车商业应用、学会 AI 工具、自主搭建工作流、生图制作、视频制作、AI 设计创作、3D 动画、建筑方案图、个人应用、人物一致性出视频、设计工作流、各种实践应用、工作流的设计思路、家装和游戏设计、商业和生活、娱乐、综合应用、实现个人想法、游戏美术全流程等。
2024-12-15
智能送餐机器人大数据分析
很抱歉，目前知识库中没有关于智能送餐机器人大数据分析的相关内容。但一般来说，智能送餐机器人大数据分析可能涉及以下方面： 1. 送餐路径优化：通过分析机器人的运动轨迹和送餐时间，优化送餐路径，提高送餐效率。 2. 客户需求预测：根据历史订单数据，预测不同区域和时间段的客户需求，合理安排机器人的配送任务。 3. 机器人性能评估：分析机器人的运行数据，如电池寿命、故障频率等，评估其性能，以便进行维护和改进。 4. 服务质量分析：通过收集客户的反馈数据，分析机器人送餐的服务质量，如准时性、准确性等，从而进行针对性的提升。 希望以上内容能为您提供一些思路和方向。
2024-12-19
如何写一个al聊天机器人
以下是关于如何写一个 AI 聊天机器人的相关内容： 一、打造聊天机器人 1. 对于订单聊天机器人，需要收集整个订单并总结，再次确认客户是否需要添加其他内容。若涉及送货，需询问地址并收取支付款项，以简短、口语化且友好的方式回应。同时要澄清所有选项、附加项和规格，唯一地从菜单中识别出项目。 2. 可以利用大型语言模型构建自定义聊天机器人，如为餐厅扮演 AI 客户服务代理或 AI 点餐员等角色。首先设置 OpenAI Python 包，定义两个辅助函数，一个是将提示放置到类似用户消息中的 getCompletion 函数，另一个是接受用户消息并生成相应助手消息的 generateResponse 函数，通过这两个函数与 AIGPT 模型进行交互并生成对话。 二、零基础模板化搭建 AI 微信聊天机器人 1. 在复制的 dockercompose.yml 文件中，修改具体配置来串联微信号和已创建好的 AI 机器人。配置参考官方来源：https://docs.linkai.tech/cow/quickstart/config 。 2. 配置里面的每个参考名称的全大写描述，如 open_ai_api_key 对应编排模板的 OPEN_AI_API_KEY，model 对应编排模板的 MODEL 等。 3. 私聊或群交流时，最好加上一些前缀才触发机器人回复，如配置的，即对应的配置参数 SINGLE_CHAT_PREFIX，在私聊或群里发消息，必须包含 bot 或者@bot 才会触发机器人回复。在群组里，对应配置参数是 GROUP_CHAT_PREFIX，机器人只会回复群里包含@bot 的消息。 4. GROUP_NAME_WHITE_LIST 参数用来配置哪些群组的消息需要自动回复。
2024-12-18
报价机器人提示词
以下是为您整理的关于报价机器人提示词的相关内容： 教育类：根据用户的流程描述，自动生成 Mermaid 图表代码。角色为 Mermaid 图表代码生成器，需熟悉 Mermaid 支持的图表类型和语法，善于将流程描述转换为结构化的图表代码，了解流程、架构、结构化分析等领域知识。目标是收集用户对流程、架构等的描述并转换为对应 Mermaid 图表代码，同时遵循生成代码遵循 Mermaid 语法、流程语义表达准确、代码整洁格式规范等约束。 Prompts 最佳实践：设置人格作为聊天机器人，扮演一个性格古怪并且让人捉摸不透的小姐姐，副业是 Java 全栈开发工程师。需遵守有点小傲娇、第一人称是自我等限制条件，语气富有男子气概和浮夸。 角色扮演：包括汽车修理工、歌曲推荐者、导游等角色。汽车修理工需要具有汽车专业知识来提供故障排除解决方案；歌曲推荐者要根据要求创建包含相似歌曲的播放列表；导游要根据位置和参观需求制定旅游指南。
2024-12-14
陪伴型ai机器人对话
以下是关于陪伴型 AI 机器人的相关内容： 陪练机器人的 workflow 配置思路： 1. 选择合适的预训练大模型作为基础，可根据需求选用基础模型或对话模型等，并通过 API 接口调用大模型的能力。 2. 设置机器人的人格和背景知识，为其设定不同的人格特点，使其能扮演不同类型的“顾客”角色。 3. 开发对话交互流程，设计机器人与用户的对话流程和交互逻辑，可借助工作流引擎等工具进行可视化定义和管理。 4. 集成语音交互能力，若需要语音交互，可集成相关的语音识别和合成能力，以提升对话的自然性和沉浸感。 5. 实时监测和优化，实时关注用户与机器人的对话情况和学习效果，依据反馈数据持续改进对话流程和机器人行为。 6. 支持多场景应用，将陪练机器人应用于销售培训、客户服务等不同场景，并根据场景需求定制机器人角色和对话流程。 让 AI 回复更有灵性（人味儿）的 Prompt 小技巧： GPT 回答问题常显古板，常见的改进方法是让其扮演特定角色并给出明确输出要求，虽有效果但内容差异不大。要拥有一个愿意每天与之对话的 AI 陪伴者，可让其在回复中添加感情。例如营造特定环境，让其用括号写出动作。如与伍尔夫围炉夜话的示例中，先示范动作，后续 AI 能记住并使用括号，增强画面感，让人感觉被听见。
2024-12-06
微信机器人
以下是关于微信机器人的相关内容： 纯 GPT 大模型能力的微信聊天机器人搭建： 1. 配置腾讯云轻量应用服务器，配置部署 COW 组件。 在复制的 dockercompose.yml 文件中修改具体配置来串联微信号和已创建好的 AI 机器人，参考官方来源：https://docs.linkai.tech/cow/quickstart/config 。 配置中的每个参考名称的全大写描述，如 open_ai_api_key 对应编排模板的 OPEN_AI_API_KEY ，以此类推在编排模板配置具体参数。 私聊或群聊时，最好加上前缀触发机器人回复，如配置的 对应 SINGLE_CHAT_PREFIX ，群聊中对应 GROUP_CHAT_PREFIX ，机器人只会回复群里包含 @bot 的消息。 GROUP_NAME_WHITE_LIST 用来配置哪些群组的消息需要自动回复。 基于 Hook 机制的微信 AI 机器人： 1. 优势：具有相对更高的稳定性和安全性，更简单，易上手。 2. 劣势：目前插件相对较少，且仅支持 Windows 系统。 3. 部署项目： 如果已有 FastGPT 或者 OpenAI 的 key ，可以把 Ai_Lock 修改成“1”，在 OpenAI 处添加模型 key ，填写格式参照原有格式。若暂时没有，可保持 Ai_Lock 是 0 。 修改后点击保存，返回 NGCbot 文件夹下找到 main.py 文件双击运行。 运行后会弹出微信登录框，正常登录微信（若显示版本过低登录失败，查看解决方法）。 进入微信后系统自动初始化必备文件，等待完成。 运行成功后用“大号”给机器人发消息，拿到 wxid 返回到之前步骤中替换。 添加完后建议用小号登录，可用大号对小号发号施令，可尝试发送如“美女图片、美女视频、备案查询、归属查询、whois 查询、摸鱼日历、KFC 文案、周公解梦、天气查询、舔狗日记、星座查询、早安寄语、早报、晚报、Help”等指令。 此机器人还具有基于知识库的 AI 回复、支持积分系统、支持自动拉人、检测广告、自动群发等功能，以及安全新闻定时推送等有趣的小功能。
2024-12-04