如何在微信中私有化部署开源模型

以下是搭建微信对话 AI 的步骤： 1. 配置极简未来（Link.AI）平台 按照官方教程操作：https://docs.linkai.tech/platform/createapp ，学习补充：https://docs.linkai.tech/platform/quickstart 。 注意以下几点： 教程中的应用是创建具体的 AI 问答机器人应用。 教程中的知识库是给绑定到指定问答机器人的资料数据集，让机器人基于这些内容回答问题。 知识库应用中的应用设定是给 AI 机器人的提示词内容或者人设，具体可看教程：https://waytoagi.feishu.cn/wiki/OqJQwzq2wi9EIOkFtFkclM24nSe 。 创建成功的 AI 应用，记住应用 ID，用于后续对接微信聊天机器人。 2. 配置腾讯云轻量应用服务器 配置部署 COW 组件，例如配置 GROUP_NAME_WHITE_LIST 参数来设定哪些群组的消息需要自动回复。 基于创建的模板切换到容器编排界面进行 COW 服务部署，等待部署成功。 3. 登录微信绑定 COW 组件 若扫描二维码等出现意外情况，可退回到容器配置处重启容器服务，重新扫码登录。 后续若想修改 COW 组件的配置，如修改机器人回复的前缀或开启语音识别等，进入编排模板的配置界面修改参数，保存后回到容器编排界面重新部署新的容器编排。 至此，完成 COW 组件的部署和微信号的绑定，即可开始与机器人微信号进行对话。

将 Coze 平台上的 Bot 部署到微信小程序上可以参考以下步骤： 1. 通过 Coze 建立定时任务，执行工作流二，并添加如分析文章和搜索文章等能力，使其成为一个消息情报官的 Agent。 2. 发布到想要的平台，如微信小程序等。 3. 登录宝塔面板，在宝塔面板中可视化控制云服务器，部署 Docker 容器，启动 COW 项目与微信取得关联。 在宝塔面板中操作，包括添加 Docker 中的“项目模板”等。 将编译好的内容复制进来，创建容器，选择容器编排，填入模板和名称。 查看运行情况，手动刷新日志，若看到“WeChat login success”，则成功将 Bot 接入微信。 4. 记下要对接的 Coze AI Bot 的 Bot ID，在其设计界面所在的链接中获取，然后将 Bot 发布到 Bot as API 上。

要将智能体发布到微信小程序中，可以参考以下步骤： 1. 在扣子平台创建智能体。 确保在 Bot 商店中能够搜到，例如可以搜索到画小二智能小助手，没有通过发布的无法获取 API。 注意添加知识库后要点击右上角的发布按钮。 2. 扣子是新一代一站式 AI Bot 开发平台（官网地址：https://www.coze.cn）。无论是否有编程基础，都可以在扣子平台上快速搭建基于 AI 模型的各类问答 Bot，并且可以将搭建的 Bot 发布到各类社交平台和通讯软件上。

在 Coze 中可以将智能体发布到微信小程序，具体步骤如下： 1. 点击发布，确保在 Bot 商店中能够搜到，例如能搜索到画小二智能小助手，因为没有通过发布的无法获取到 API。 2. 然后点击右上角发布，机器人就可以工作了。 3. 设置完成相关内容之后，点击右上角的发布。

Bot 接入微信机器人可以实现语音聊天。具体步骤如下： 1. 登录宝塔面板，在宝塔面板中可视化控制云服务器，部署 docker 容器，启动 COW 项目与微信取得关联。 2. 点击“Docker”中的“项目模板”中的“添加”按钮。 3. 项目模板代码示例如下：将编译好的内容复制进来。 4. 在容器中创建容器，选择容器编排，填入模板和名称，确定。 5. 现实运行成功后，点击容器，可以看到运行的是两个服务。 6. 点击“wcandyaibot”后面的日志按钮，在弹出层中用提前预备好的微信进行扫码。此界面不会实时更新显示，需要手动刷新一下。点击“刷新日志”，如果看到“WeChat login success”，就成功将 Bot 接入微信中了。 7. 如果扫描二维码出现预料之外的情况，可以退回到容器配置处，重启容器服务，然后重新扫码登录。 8. 若想修改 COW 组件的配置，比如修改机器人回复的前缀或开启语音识别等，进入对应的编排模板的配置界面，点击模板编辑，修改对应的配置参数，点击保存，然后回到容器编排界面重新部署新的容器编排即可。 至此，完成 COW 组件的部署和微信号的绑定，就可以开始与机器人微信号进行语音聊天了。

以下是在 Windows 部署微信机器人的详细步骤： 一、安装环境 1. 点击电脑“系统”，直接输入“cmd”，点击回车，打开命令窗口。 2. 在命令窗口中，粘贴入以下代码，确认是否有 python。 3. 粘贴入以下代码，确认是否有 pip。 4. 两步命令输入完，核对一下。如果有的话，会分别显示出版本号，可以跳过“安装环境这一步，直接到“二、部署项目”。如果没有，需要按照以下步骤安装： 先进行 python 的安装，安装包已准备好，直接点击下载。 关闭窗口，再次运行那两行命令会发现已经有了。 二、部署项目 1. 下载 COW 机器人项目，解压缩。 2. 解压后，打开 COW 文件夹。 3. 在空白处，shift+鼠标右键，点击“在此处打开 Powershell 窗口”。 4. 在 Powershell 窗口中，粘贴进入：pip install r requirements.txt ，等待执行完成后，继续粘贴：pip install r requirementsoptional.txt 。 5. 上边的都执行完成后，关闭窗口。在当前目录下，找到 configtemplate.json 文件。 6. 新生成的便是配置文件，右键使用记事本打开这个文件，修改相应内容。 删除新文件里的所有代码。 复制提供的代码，粘贴到文件里，并找到第 4 行，把一开始注册并保存好的千问 API key 粘贴到双引号里。 7. 保存上述文件，然后在当前文件下，找到 plugins/godcmd 文件夹，复制 config.json.template 重命名为 config.json 。 8. 双击 config.json，进入后，设置下 password 和 admin_users ，可以设置为和示例一样，后边再改，点击保存后关闭。 注意：本教程完成后，程序将在您的电脑本地运行，假如您关掉了窗口，那么进程也就结束。所以，如果您想让 AI 持续使用，就必须保持窗口打开和运行，也就是电脑不能关。Mac 系统步骤也是一样，只是打开命令符的命令些许不同，遇到问题问大模型就好了。 此外，还有基于 Hook 机制的微信 AI 机器人部署步骤： 1. 接下来，需要使用一个特定版本的微信，已为您准备好，点击下载，下载后直接替换安装。（安装后，有可能您在的群却显示退出，其实没事，发个消息就好了，并不是真的退出） 2. 下载 NGCbot 机器人项目，解压缩。 3. 解压后，打开 NGCbot 文件夹。 4. 在空白处，shift+鼠标右键，点击“在此处打开 Powershell 窗口”。 5. 打开 shell 窗口后，粘贴进入相关代码，并点击回车。 6. 粘贴进入相关代码，并点击回车，等待安装，安装完成后，关闭窗口即可。 7. 然后在当前的 NGCbot 文件夹下，找到 Config 文件，找到 config.yaml，右键选择打开方式，选择用记事本方式打开。 8. 打开后看到相应页面，把 Administrators 先改成特定内容。如果您已经有了 FastGPT 或者 OpenAI 的 key，可以把这里的 Ai_Lock，修改成“1”。然后拉到最下边，在 OpenAI 那里，去添加您的 AI 模型 key。填写格式，参照原有的格式即可。

以下是开源的数字人方案： 1. 第一步：先剪出音频，使用 https://elevenlabs.io/speechsynthesis 或使用 GPTsovits克隆声音，做出文案的音频。 2. 第二步：使用 wav2lip 整合包，导入视频和音频，对口型得到视频。基础 wav2lip+高清修复整合包下载地址为 https://github.com/Rudrabha/Wav2Lip 。这就是目前的本地跑数字人的方案，效果都差不多，都是用的 wav2lip 。产品为 https://synclabs.so/ 。 3. 构建数字人躯壳：笔者的开源数字人项目（项目地址：https://github.com/wanh/awesomedigitalhumanlive2d）选择了 live2d 作为数字人躯壳，因为这类 SDK 的驱动方式相比现在的 AI 生成式的方式更加可控和自然，相比虚幻引擎这些驱动方式又更加轻量和简单；另外超写实的数字人风格在目前的技术能力下，处理不好一致性问题，容易带来虚假的感觉或者产生恐怖谷效应，而卡通二次元的形象给人的接受度更高。关于 live2d 的 SDK 驱动方式可以参考官方示例：https://github.com/Live2D 。

关于 Excel 的 AI 功能，目前有以下几种不同的工具和插件可以增强其数据处理和分析能力： 1. Excel Labs：这是一个 Excel 插件，新增了基于 OpenAI 技术的生成式 AI 功能，允许用户在 Excel 中直接利用 AI 进行数据分析和决策支持。 2. Microsoft 365 Copilot：由微软推出，整合了 Word、Excel、PowerPoint、Outlook、Teams 等办公软件。用户通过聊天形式告知需求，如数据分析或格式创建，Copilot 会自动完成任务。 3. Formula Bot：提供数据分析聊天机器人和公式生成器两大功能，用户能通过自然语言交互式地进行数据分析和生成 Excel 公式。 4. Numerous AI：支持 Excel 和 Google Sheets 的 AI 插件，除公式生成外，还可根据提示生成相关文本内容、执行情感分析、语言翻译等任务。 这些工具通过 AI 技术提升了 Excel 的数据处理能力，使用户能更高效地进行数据分析和决策。随着技术不断发展，未来可能会有更多 AI 功能集成到 Excel 中，进一步提高工作效率和数据处理的智能化水平。请注意，内容由 AI 大模型生成，请仔细甄别。

以下是关于使用开源大模型本地化部署所需电脑配置及笔记本电脑推荐的相关信息： 运行大模型需要较高的机器配置，个人玩家大多负担不起。以下是不同类型大模型的配置要求： 生成文字大模型： 最低配置：8G RAM + 4G VRAM 建议配置：16G RAM + 8G VRAM 理想配置：32G RAM + 24G VRAM（跑 GPT3.5 差不多性能的大模型） 生成图片大模型（比如跑 SD）： 最低配置：16G RAM + 4G VRAM 建议配置：32G RAM + 12G VRAM 生成音频大模型： 最低配置：8G VRAM 建议配置：24G VRAM 对于本地化部署，不建议使用最低配置，因为速度会非常慢。例如，用 8G 的 Mac 电脑尝试过，效果不佳。 由于本地化部署对电脑配置要求较高，不太推荐本地化安装实现。如果想使用开源大模型，可选择利用云厂商已提供好的大模型运行环境和计算能力，比如阿里云的 PAI 和 AutoDL。 在笔记本电脑选择方面，建议选择具备以下配置的机型： 1. 内存：16GB 及以上的 RAM。 2. 显卡：具有 8GB 及以上 VRAM 的独立显卡。 但具体的笔记本电脑型号还需根据您的预算和其他需求来确定。

国内像阿里、小川的百川等都在进行 AI 网站的开源。开源对于 AI 的发展具有重要意义，它能够集中力量办大事，促进不同公司、学校等在开源社区中共享知识和成果。例如，人工智能发展迅速就与开源密切相关。OpenAI 自身也是开源的受惠者，其用到的很多技术都源自 Google 的开源。我们国内应借鉴国外开源成果，积极加入大开源社区，在超级通用大模型问题上坚持开源，避免闭门造车、重复发明轮子。

大语言模型的未来趋势在闭源云端和开源本地部署方面存在多种可能性。 对于开源本地部署，以下是一些相关信息： Ollama 是一个方便用户在本地运行和管理大型语言模型的框架，具有以下特点： 支持多种大型语言模型，如通义千问、Llama 2、Mistral 和 Gemma 等，适用于不同应用场景。 易于使用，适用于 macOS、Windows 和 Linux 系统，同时支持 CPU 和 GPU。 提供模型库，用户可从中下载不同模型，以满足不同需求和硬件条件，模型库可通过 https://ollama.com/library 查找。 支持用户自定义模型，例如修改温度参数调整创造性和连贯性，或设置特定系统消息。 提供 REST API 用于运行和管理模型，以及与其他应用程序的集成选项。 社区贡献丰富，包括多种集成插件和界面，如 Web 和桌面应用、Telegram 机器人、Obsidian 插件等。 安装可访问 https://ollama.com/download/ 。 可以通过一些教程学习如何本地部署大模型以及搭建个人知识库，例如了解如何使用 Ollama 一键部署本地大模型、通过搭建本地聊天工具了解 ChatGPT 信息流转、RAG 的概念及核心技术、通过 AnythingLLM 搭建完全本地化的数据库等。 同时，采用开源或国内企业提供的 13B 级模型本地部署在内部系统中，虽需投入算力，但有其价值。智能客服的大量优质大客户可能会选择自己搭建智能客服平台，并结合大模型企业提供的技术服务，基于大模型搭建 LangChain、RAG 框架，实现 RPA 自动流程。 对于普通用户是否有必要了解本地部署知识以及是否有必要自己搭建 agent 以及 rag，这取决于个人需求和兴趣。如果您希望更深入了解大模型的工作原理和运行机制，或者有特定的个性化需求，那么了解和尝试本地部署可能是有意义的。但如果只是一般的使用需求，可能无需深入了解和自行搭建。

以下是一些视频、音频、图片理解的大模型： 视频生成音效模型已开源。 Sheet Music Transformer：超越单音转录的端到端光学音乐识别。 AnyGPT：具有离散序列建模的统一多模态大型语言模型。 腾讯与新加坡国立大学发布 M2UGen。 此外，在多模态成为大模型标配的趋势下，以下大模型在视频和图片理解方面表现出色： OpenAI 的产品在从语言处理到图片、视频、声音的理解方面有不断发展，如 Sora 工具，其背后体现了 OpenAI 对视频的阅读、解读和分析能力的提升。 Meta 发布的 VJEPA 是基于世界模型打造的多模态模型。 Google 的 Gemini 号称具有强大的对视频和图片的深入解读能力。 Stable Diffusion 发布的最新版本也具有强大的对视频和图片的理解能力。

以下是为您提供的私有化部署大模型的相关教材： 张梦飞：【全网最细】从 LLM 大语言模型、知识库到微信机器人的全本地部署教程 一、部署大语言模型 1. 下载并安装 Ollama 点击进入，根据您的电脑系统，下载 Ollama：https://ollama.com/download 下载完成后，双击打开，点击“Install” 安装完成后，将下方地址复制进浏览器中。如果出现下方字样，表示安装完成：http://127.0.0.1:11434/ 2. 下载 qwen2:0.5b 模型（0.5b 是为了方便测试，下载快，自己设备充足的话，可以下载更大的模型） 如果您是 windows 电脑，点击 win+R，输入 cmd，点击回车。 如果您是 Mac 电脑，按下 Command（⌘）+ Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。 复制以下命令行，粘贴进入，点击回车。 回车后，会开始自动下载，等待完成（这里下载久了，可能会发现卡着不动，不知道下载了多少了。鼠标点击一下窗口，键盘点空格，就会刷新了） 下载完成后您会发现，大模型已经在本地运行了。输入文本即可进行对话。 【SD】向未来而生，关于 SDXL 您要知道事儿 SDXL 的大模型分为两个部分： 1. 第一部分，base+refiner 是必须下载的，base 是基础模型，我们使用它进行文生图的操作；refiner 是精炼模型，我们使用它对文生图中生成的模型进行细化，生成细节更丰富的图片。 2. 第二部分，是 SDXL 还有一个配套的 VAE 模型，用于调节图片的画面效果和色彩。 这三个模型，您可以关注我的公众号【白马与少年】，然后回复【SDXL】获取下载链接。 想要在 webUI 中使用 SDXL 的大模型，首先我们要在秋叶启动器中将 webUI 的版本升级到 1.5 以上。接下来，将模型放入对应的文件夹中，base 和 refiner 放在“……\\sdwebuiakiv4.2\\models\\Stablediffusion”路径下；vae 放在“……\\sdwebuiakiv4.2\\models\\VAE”路径下。完成之后，我们启动 webUI，就可以在模型中看到 SDXL 的模型了。我们正常的使用方法是这样的：先在文生图中使用 base 模型，填写提示词和常规参数，尺寸可以设置为 10241024，进行生成。 基于多模态大模型给现实世界加一本说明书 大模型应用的利弊： 优点： 适应性极好，通过提示词工程，方便「适应各种奇葩需求」。 对算法的要求降低了不少，大部分功能由大模型提供，特别是非结构化信息的处理。 大模型的 API 访问方式简化了边缘设备的要求，无论在 Android、iOS、HarmonyOS或各种嵌入式设备上都能方便适配。「AGI 终将到来，拥抱未来，虽然路途艰难但相信方向是正确的。」 缺点： 大模型的推理时长目前仍是最大的障碍，传统目标检测或人脸识别优化后能达到 100~300ms，而大模型动则需要 10 秒的延时，限制了许多场景。 模型的幻象和错误率仍然较高，导致上述推理时长问题，在多链路的复杂应用中迅速变得不可行。 在大多数生产模式下，仍然需要使用云服务数据中心，提交的画面不可避免地涉及到隐私问题。 商业私有化部署是刚需，当下的开源模型离 GPT4 代差在半年以上，技术人员任重道远的。

以下是关于使用 LLM 分析企业私有化数据及工具推荐的相关内容： RAG 加速器提供了数据抽取服务，这是基于 LLM 的解决方案。在利用 LLM 进行信息抽取时，需要了解构建抽取服务的基本组件和要点。 实现过程中，有两个简单但强大的思路可以提升性能： 1. 确保 LLM 以正确的格式回应。函数调用已成为确保 LLM 严格输出特定格式的新且相对靠谱的方法，可参考结构化输出文档，其中高层次的 LangChain API 展示了不同 LLM 如何调用工具和函数。 2. 使用参考样例。尽管没有样例也能设置抽取问题，但实际操作中，将输入和对应输出的样例纳入其中通常大有裨益，有时这些样例比指示本身更能有效指导 LLM 处理特定情况。在提取用例文档中，可以找到更多细节，助您从 LLMs 中提取更好的性能。

以下是关于私有化部署的大模型工具的相关内容： Fooocus 部署： 大模型（base 和 Refiner）默认放在：Fooocus_win64_1110\\Fooocus\\models\\checkpoints LoRA 模型默认放在：Fooocus_win64_1110\\Fooocus\\models\\loras Fooocus 程序默认用到 3 个 SDXL 的模型，包括一个 base、一个 Refiner 和一个 LoRA。若单独安装，需下载三个模型： SDXL 基础模型：https://huggingface.co/stabilityai/stablediffusionxlbase1.0/resolve/main/sd_xl_base_1.0_0.9vae.safetensors refiner 模型：https://huggingface.co/stabilityai/stablediffusionxlrefiner1.0/resolve/main/sd_xl_refiner_1.0_0.9vae.safetensors LoRA 模型：https://huggingface.co/stabilityai/stablediffusionxlbase1.0/resolve/main/sd_xl_offset_examplelora_1.0.safetensors 若部署了 SD 秋叶包，可共用模型（大模型和 LoRA），在 Fooocus_win64_1110\\Fooocus\\modules\\path.py 中用 text 记事本打开，修改路径为秋叶包模型对应的路径，如大模型路径：sdwebui\\models\\Stablediffusion\\SDXL；LoRA 模型路径：sdwebui\\models\\lora。配置好后点击 run.bat 文件启动。 SDXL 本地部署： 大模型分为两个部分：第一部分，base + refiner 必须下载，base 用于文生图操作，refiner 用于对生成的模型细化以生成细节更丰富的图片；第二部分是配套的 VAE 模型，用于调节图片的画面效果和色彩。 可关注公众号【白马与少年】，回复【SDXL】获取模型下载链接。 在 webUI 中使用 SDXL 大模型，需在秋叶启动器中将 webUI 版本升级到 1.5 以上，将模型放入对应文件夹，base 和 refiner 放在“……\\sdwebuiakiv4.2\\models\\Stablediffusion”路径下，vae 放在“……\\sdwebuiakiv4.2\\models\\VAE”路径下，启动 webUI 后可在模型中看到 SDXL 模型。 Langchain + Ollama + RSSHub 实现 RAG 部署： 安装完后，确保 ollama 后台服务已启动（在 mac 上启动 ollama 应用程序，在 linux 上通过 ollama serve 启动），可通过 ollama list 确认。 可通过 ollama 命令下载模型，如 Gemma（Google 推出的轻量级模型）、Mistral（欧洲法国 Mistral AI 团队推出的大模型）、Mixtral（Mistral AI 团队推出的 87B 的 MoE 模型）、Qwen（阿里巴巴推出的大模型）。

AI助手或智能代理（Agent）的部署可以是私有化部署，也可以是公有化部署，具体取决于应用场景、需求、安全考虑以及成本效益等因素。 1. 私有化部署： 在企业或组织的内部网络中部署，通常用于处理敏感数据或需要高度定制化的服务。 提供更高的安全性和隐私保护，因为系统不公开于互联网。 允许更精细的控制和管理，适合有特定业务流程和需求的企业。 2. 公有化部署： 在云服务提供商的基础设施上部署，通过互联网提供服务。 易于扩展，维护成本较低，因为云服务商负责大部分的维护工作。 适用于面向公众的服务，如在线客服机器人、开放平台的API服务等。 选择哪种部署方式取决于以下因素： 数据敏感性：如果处理的数据非常敏感，私有化部署更有利于保护数据安全。 成本：私有化部署可能需要更多的初始投资，而公有化部署可能带来更高的灵活性和可扩展性。 维护能力：如果企业有足够的技术力量来维护私有化部署的系统，这可能是一个更好的选择。 定制化需求：私有化部署更容易根据企业的特定需求进行定制。 法规遵从性：某些行业或地区的法律法规可能要求企业必须进行私有化部署。 在实际应用中，一些企业可能会选择混合部署模式，即在私有云中部署核心的、敏感的业务组件，同时将一些非核心或较不敏感的组件部署在公有云上，以此来平衡安全性、成本和灵活性。

以下是一些国内外好用的图生视频模型： 可灵（国内，免费） 网址：https://klingai.kuaishou.com/ 支持文生视频、图生视频。 支持图生视频首尾帧功能。 提示词可使用中文。 文生视频支持正向提示词、反向提示词、运镜控制、时长选择（5s、10s），支持 16:9、9:16、1:1 尺寸。 图生视频除了不可运镜控制以外，其他跟文生视频基本相同。 默认生成 5s 的视频。 ETNA（国内） 网址：https://etna.7volcanoes.com/ 由七火山科技开发的文生视频 AI 模型。 可以根据用户简短的文本描述生成相应的视频内容。 生成的视频长度在 8 15 秒，画质可达到 4K，最高 38402160，画面细腻逼真，帧率 60fps。 文生视频，支持中文，时空理解。 关于可灵的文生视频效果，测试者 Austin 周安鑫进行了以下测试： 1. 场景识别：包括室内和室外，如客厅的沙发、液晶电视、漂亮的波斯猫、超现实主义的蜿蜒河流、茂密森林、灿烂花海、碧绿草坪等。 2. 物体识别：涵盖静态和动态物体，如水晶球、跳动的火焰、翱翔的飞鸟、闪烁的流星、飞溅的水珠等。 3. 人物识别：包括面部和姿态，如一个人笑容灿烂、一个人惊恐愤怒，一位芭蕾舞女孩在冰面上跳舞等。 4. 动作识别：包含基本和复杂动作，如短跑运动员快速奔跑、赛车手驾驶跑车激烈漂移等。 5. 事件检测：有简单和复杂事件，如一位帅哥在喝水、外星文明和地球进行星际大战等。 6. 环境变化：涉及光线和天气，如奇幻的极光舞动变幻、城市写字楼灯光忽明忽暗、闪电交加、乌云密布、台风、大雨等。 7. 多对象场景：包括单一和多对象场景，如 1 个飞行员驾驶战斗机翱翔太空、海军指挥航母战斗群展开激烈战斗等。 8. 特殊场景：有遮挡和非标准场景，如城市大雾遮挡摩天大楼、一边是神秘海底世界，一边是梦幻糖果屋。 9. 细节检测：包含小物体和微表情，如崭新的苹果电脑屏幕上播放电影、瞳孔收缩、脸颊泛红、嘴唇微微颤抖。

以下是关于模型的相关信息： 新的 gpt3.5turbo 模型针对会话进行了优化，原始的 GPT3.5 模型针对文本补全进行了优化。 用于创建嵌入和编辑文本的端点有自己的一组专用模型。 在 AI 输入框下方有一个下拉列表，允许选择要使用的模型。默认情况下，Cursor 已准备好使用的模型包括：GPT4o、GPT4、Claude 3.5 Sonnet、cursorsmall。其中，cursorsmall 是 Cursor 的自定义模型，不如 GPT4 智能，但速度更快，用户可无限制访问。您可以在 Cursor Settings > Models > Model Names 下添加其他模型。 谷歌一直在测试自己的人工智能 Bard，由各种基础模型驱动，最近是名为 PaLM 2 的模型。 Anthropic 发布了 Claude 2，其最值得注意的是有非常大的上下文窗口，与其他大型语言模型相比，不太可能恶意行事。

目前在具备图像 OCR 能力的大模型方面，一些较为知名和好用的包括百度的文心大模型、阿里云的通义大模型等。但大模型的性能和适用场景可能会因具体需求和使用场景的不同而有所差异。您可以根据自己的具体需求进一步评估和选择。

AI 大模型中带有“instruct”通常与指令微调相关。在大模型的训练过程中，指令微调是其中一个重要阶段。此阶段模型被训练以理解并执行具体指令，例如翻译文本等，从而能够回答问题。指令微调阶段输入的内容通常包括三个部分，如“Instruct：请你翻译下面这段话”“Input：一段英文”“Output：一段中文”。通过指令微调，模型能够更好地按照人类的期望和具体要求进行输出。

我是 WaytoAGI 专属问答机器人，基于 Aily 和云雀大模型。 Aily 是飞书团队旗下的企业级 AI 应用开发平台，提供了简单、安全且高效的环境，帮助企业轻松构建和发布 AI 应用，推动业务创新和效率提升。 云雀是由字节跳动研发的语言模型，通过便捷的自然语言交互，能够高效地完成互动对话、信息获取、协助创作等任务。 此外，还有一些免费的大模型接口，如阿里的通义千问大模型接口，可创建 API key。智谱 AI（ChatGLM）、科大讯飞（SparkDesk）也有免费接口，但国内的大模型大多限制一定免费额度的 Token。 谷歌的 Gemini 大模型（gemini 1.5）、海外版 Coze 的 GPT4 模型是免费且能图片识别，但需要给服务器挂梯子。想使用的话，可参考张梦飞同学写的教程。 在深入了解 AI 运作原理和众多落地产品后，重新思考 AI 大模型引发的变革。此前曾有疑问，大模型与智能语音技能的 NLU 存在差异。语音技能 NLU 是通过一系列规则、分词策略等训练而成，运作逻辑规律可观测，具有 ifelse 式逻辑性。而大模型凭借海量数据在向量空间中学习知识的关联性形成，运作逻辑难以观测，脱离了 ifelse 的层面。

训练模型来协助运营跨境电商线上店铺，仅依靠一些精准的关键词通常是不够的。模型的训练需要多方面的数据和信息，包括但不限于产品的详细描述、客户的评价和反馈、市场趋势、竞争对手的情况等。精准的关键词可以作为其中的一部分输入，但不足以全面有效地训练模型以达到理想的辅助运营效果。