Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

ollama跟llama.cpp差异

Answer

Ollama 和 llama.cpp 存在以下差异：

  1. 功能特点：
    • Ollama 是一个开源的大型语言模型服务，能方便地部署最新版本的 GPT 模型并通过接口使用，支持热加载模型文件，无需重新启动即可切换不同模型。
    • llama.cpp 是将 Facebook 的 LLaMA 模型在 C/C++ 中的实现。
  2. 部署和使用：
    • Ollama 的安装和使用相对简单，例如在 Mac 系统中，可通过以下两步完成：打开 ollama.com 下载应用并安装；在终端输入相应指令运行模型。
    • llama.cpp 编译时为利用 Metal 的 GPU 有特定命令，还需下载模型，且提供了 WebUI 供用户使用。
  3. 支持的模型：
    • Ollama 支持如 Google Gemma 等小型模型的本地部署。
    • llama.cpp 支持 LLaMA 模型。
  4. 性能表现：
    • Ollama 中 2b 版本反应速度快但互动话题有限，7b 版本输出内容质量相对高但可能有卡顿，对非英文语种反馈不稳定。
Content generated by AI large model, please carefully verify (powered by aily)

References

[应用实例] 本地部署Google Gemma

作者：吵爷Google刚刚发布了家用版的小模型Gemma，分别为2b（20亿参数）和7b（70亿参数）版本。相对千亿参数的大模型，这种小模型可能不适合解决特别复杂的任务，但是从趋势上看应该是模型本地化提升基础操作效率的模板。类似之前国内发布的ChatGLM-6B。现在的部署环境比一年前要友好多了，首先提一下Ollama，Ollama是一个开源的大型语言模型服务，可以非常方便地部署最新版本的GPT模型并通过接口使用，支持热加载模型文件,无需重新启动即可切换不同的模型。除了Gemma，像小型的llama也支持本地部署。环境准备首先进入ollama.com，下载程序并安装（支持windows，linux和macos）查找cmd进入命令提示符，输入ollama -v检查版本，安装完成后版本应该显示0.1.26cls清空屏幕，接下来直接输入ollama run gemma运行模型（默认是2b），首次需要下载，需要等待一段时间，如果想用7b，运行ollama run gemma:7b完成以后就可以直接对话了，2个模型都安装以后，可以重复上面的指令切换。2b的反应速度非常快，但是能够互动的话题有限。7b我也试了下，能跑是能跑（我是3050显卡），但是会有明显的卡顿，输出内容的质量相对会高不少，但无论2b还是7b，对非英文语种的反馈都不是很稳定。2b测试7b测试另外模型里一些常用的内部指令/set显示设置界面可调整的设置项/show显示模型信息/load <model>加载一个已有模型/bye退出

如何在电脑上运行本地大模型？手把手教你从 hard 模式到 easy 模式

和第一个方案相比，Ollama的安装和使用，简直不要太简单，两步就搞定了步骤：1.打开Ollama https://ollama.com，下载应用并安装2.在Mac系统搜索terminal或终端，点击回车，弹出的那个简洁的框框就是。输入想要运行的大模型（例如：ollama run llama2），并回车。等待下载完成，即可输入内容，和llama2愉快的聊起来。当然，这个过程中，对于非技术同学最难的部分可能是「我不知道我的favorite terminal是啥」[heading3]超级简单模式：GPT4All[content]最简单的方案就是这个了，应该没有更简单的了，全程不用考虑「最喜欢的terminal是什么」GPT4All是一个用于运行大模型的浏览器，可安装、运行、管理本地大模型。步骤：1.打开GPT4All官网https://gpt4all.io，下载安装器，并按步骤完成安装。支持Windows、Mac、Linux2.打开安装好的GPT4All.app，选择或搜索任意一个大模型，即可下载并运行。在GPT4All官网有各个大模型的评测得分，选得分最高的下载，例如目前平均得分最高的是Nous-Hermes2。好了，现在可以愉快的在电脑上运行大模型了，从此「电脑」真正成为「电脑」了。是不是非常简单，欢迎分享你运行成功后的截图。如有疑问，欢迎加评论讨论。BGM:[New Boy](https://music.163.com/#/song?id=28996919)官网：waytoAGI.com知识库：[通往AGI之路](https://waytoagi.feishu.cn/wiki/QPe5w5g7UisbEkkow8XcDmOpn8e)我们的目标是让每个人因AI而强大

大模型入门指南

由于笔者实用的macOS系统，因此采用GGML量化后的模型，官方开源出来的模型大都以Python为主，效率可想而知，因此笔者一般会采用社区内的其他实现，比较有名的项目有：ggerganov/llama.cpp:Port of Facebook's LLaMA model in C/C++([7])ggerganov/whisper.cpp:Port of OpenAI's Whisper model in C/C++([8])[heading2]LLama[content]首先是编译，为了利用Metal的GPU，可以用如下命令编译：之后需要去Llama-2-7B-Chat-GGML([9])中下载模型，3G到7G不等，读者可以按需尝试即可。得到输出此外，llama.cpp还提供了WebUI供用户使用，首先启动server：它默认监听8080端口，打开浏览器就可以对话了

Others are asking
llama.cpp处理过的模型可以有多大程度的提升
在计算机科学领域，特别是在机器学习和人工智能方面，性能的提升可以有多种方式。对于 llama.cpp处理过的模型，可能的提升可以包括但不限于以下几个方面： 1. 模型精度提升：通过改进模型结构、调整超参数、增加训练数据量等方式，可以提高模型的预测准确性和泛化能力。这样的提升可以使得模型在实际应用中取得更好的效果。 2. 模型速度提升：通过优化模型的计算效率、减少模型的复杂度、使用更高效的算法等方式，可以提高模型的推理速度和训练速度。这样的提升可以使得模型在实时应用和大规模数据处理中更具竞争力。 3. 模型规模提升：通过增加模型的容量、引入更多的特征或上下文信息、使用集成学习等方式，可以提升模型的表达能力和适应性，使得模型可以处理更复杂的任务和更丰富的数据。 4. 模型可解释性提升：通过改进模型的可解释性、增加模型的解释性特征、使用可解释的模型结构等方式，可以提高模型对决策过程的透明度和可理解性，增强模型在实际应用中的可信度和可接受性。 5. 模型稳定性提升：通过改进模型的鲁棒性、增加模型的泛化能力、引入鲁棒的训练和评估方法等方式，可以提高模型在不同数据分布和环境条件下的稳定性和可靠性，减少模型在实际应用中出现的意外情况和错误。 这些提升可以单独或者组合起来实现，取决于具体的应用场景、数据特征、任务要求和资源限制等因素。通过不断改进和优化，llama.cpp处理过的模型可以在性能上取得更大程度的提升，从而更好地满足实际需求。
2024-04-18
本地用Ollama部署模型，使用哪个ChatBox客户端好？
目前在本地使用 Ollama 部署模型时，没有特别突出或被广泛推荐的特定 ChatBox 客户端。不同的客户端可能在功能、界面和兼容性方面存在差异，您可以根据自己的需求和使用习惯进行选择和尝试。常见的一些客户端包括但不限于 Web 端的简单界面工具，或者一些具有特定功能扩展的桌面应用程序。但具体哪个最适合您，还需要您亲自测试和评估。
2025-03-27
llamaindex
LlamaIndex 是一个为构建大型语言模型（LLM）应用而设计的开发框架，具有以下特点和优势： 1. 为开发人员提供强大且灵活的工具，能更有效地理解和处理文本数据。对于熟悉 LangChain 的开发者来说不陌生。 2. 核心优势在于对大型语言模型的深度支持，允许利用如 GPT3.5 Turbo 这样的模型执行多种文本处理任务，如文档问答、文章生成和自动翻译等。 3. 特别提供构建文档问答系统的功能，能自动从大量文档中检索相关信息并生成答案，对处理大量知识信息的领域有价值。 4. 允许对嵌入模型进行微调以适应特定任务需求，提升文档问答系统性能。 5. 支持连接不同类型的数据源，包括结构化、半结构化和非结构化数据，为应用程序提供全面信息。 6. 设计注重简化开发流程，复杂的 NLP 任务通过少量代码即可实现，无需深入了解底层复杂性，降低开发大型语言模型应用的门槛，提升开发效率和应用性能。 7. 之前叫 GPT Index，是更高一层 LangChain 的抽象。简化了 LangChain 对文本分割、查询的接口，提供更丰富的 Data Connector。只针对 GPT Model 做 Index，而 LangChain 可对接多个 LLMs，可扩展性更强。 其 GitHub 地址：https://github.com/runllama/llama_index/
2025-03-20
ollama框架有哪些推荐
Ollama 是一个开源的框架，具有以下特点和功能： 1. 旨在简化在本地运行大型语言模型（LLM）的过程，提供了简单的 API 来创建、运行和管理模型，还有预构建模型库，降低使用门槛，适合初学者或非技术人员使用。 2. 支持多种大型语言模型，如通义千问、Llama 2、Mistral 和 Gemma 等，可用于不同应用场景。 3. 易于使用，适用于 macOS、Windows 和 Linux 系统，同时支持 CPU 和 GPU。 4. 提供模型库，用户可从中下载不同模型，这些模型有不同参数和大小，以满足不同需求和硬件条件。模型库可通过 https://ollama.com/library 查找。 5. 支持用户自定义模型，例如修改模型的温度参数来调整创造性和连贯性，或者设置特定的系统消息。 6. 提供 REST API，用于运行和管理模型，以及与其他应用程序的集成选项。 7. 社区贡献丰富，包括多种集成插件和界面，如 Web 和桌面应用、Telegram 机器人、Obsidian 插件等。 安装 Ollama 可通过官方下载地址 https://ollama.com/download 进行。安装完成后，可通过访问相关链接判断是否安装成功，在命令行中运行相应命令即可使用，如运行本地大模型的命令。还可通过 ollama list 确认模型下载情况。 此外，在 termux 软件中进行相关操作时，需执行如 aptget update、安装 curl 命令、安装 ollama 命令等。启动模型时，以 phi3 模型为例，在 termux 软件中执行命令 ollama run phi3 并等待下载完成。当然，Ollama 还有很多其他模型，如有需要可在 ollama 官网自行查看命令与下载。
2025-03-14
本地部署ollama+deep seek后怎么有效搭机械领域建知识库或微调为机械领域
以下是本地部署 ollama + deep seek 后有效搭建机械领域知识库或微调为机械领域的步骤： 1. 下载 Ollama 程序：官方网址为 https://ollama.com/ 。默认下载到 C 盘，若想修改安装目录到 D 盘，后续会有相关说明。下载完成后，右下角会出现 Ollama 的图标，打开命令行输入相应命令回车。根据自身独立显卡性能选择模型，如英伟达 2060Super 可选择 Deepseekr1:14b 的模型。若下载速度慢，可按 Ctrl+C 强制退出重新下载。下载完毕后，再下载一个嵌入模型，Ollama 的 bge 模型官方网址：https://ollama.com/library/bgem3 ，输入相应命令，下载好后直接退出终端。 2. 配置模型：返回 RAGFlow 中，打开右上角设置，进入模型提供商进行配置。选择 Ollama，并配置相关信息，基础 URL 按要求设置，设置完成后点击确定。 3. 导入嵌入模型：导入一个嵌入模型用于文本向量化。 4. 设置系统模型：完成相关设置。 5. 创建知识库：返回知识库，进入数据集，可导入文件或设置文件夹当作知识库，自行设置。导入完毕后，对文件进行解析，解析速度取决于本机 GPU 性能，越好的显卡解析越快。解析完成后，进行检索测试，测试没问题即可进入聊天界面，助理设置可自行设置。
2025-03-07
请给我找一个安装ollama-deep-researcher的完整教程，用于windows上。
很抱歉，目前没有关于在 Windows 上安装 ollamadeepresearcher 的完整教程。建议您通过以下途径获取相关信息： 1. 官方网站：访问 ollamadeepresearcher 的官方网站，查找针对 Windows 系统的安装指南。 2. 相关技术论坛：在专业的技术论坛上搜索相关主题，可能会有其他用户分享的安装经验和教程。 3. 视频平台：部分视频平台上可能有关于此软件在 Windows 上安装的演示视频。
2025-03-06
如何在电脑上用chatbox框架，使用ollama搭建deepseek模型
在电脑上使用 Chat Box 框架，通过 Ollama 搭建 DeepSeek 模型的步骤如下： 1. 阿里云百炼平台： 百炼平台的模型广场有各种模型，包括音频理解、视频理解等，通义的一些强模型也在其中。 百炼平台无需部署，可直接使用 DeepSeek R1 模型。 DeepSeek R1 模型的价格与各大平台差不多，有大量免费额度，如 100 万 token，不同版本的模型如 7B、14B、32B 等也送了 100 万 token，LLAVA 限时免费。 使用 DeepSeek R1 模型需要解锁和授权，没有授权按钮的需要对阿里云进行实名认证，可通过支付宝扫码或在右上角头像处进行，共学群里有相关指引。 在首页体验模型页面可对比不同模型的效果，如 V3 和 R1，R1 会先思考，速度较快。 多模态可以识别更多输入信息，如读文件、图片等，而 DeepSeek R1 本身不是多模态模型。 通过模型广场的 API 调用示例获取链接，截断后粘贴到 Chat Box 的设置中，添加自定义提供方，设置模型名称为 DeepSeek R1，并获取 API key。 API key 可删除旧的并重新创建，方便本地软件连接。 2. Docker + RAGFlow + Ollama 搭建： 返回 RAGFlow 中，打开右上角设置，进入模型提供商。 选择 Ollama，配置相关信息，模型取决于运行的模型。 配置基础 URL。 导入一个 embedding 模型，用于文本向量化。 设置系统模型设置。 进入数据集，导入文件，可设置文件夹当作知识库。 对文件进行解析，解析速度取决于本机 GPU 性能。 解析好之后，进入检索测试。 测试没问题，可进入聊天界面，助理设置可自行设置。 对于开源模型，如 DeepSeek、Llama 等，可以使用以下方式： 1. Inference Provider：使用 Together AI 等推理服务提供商，在线体验和调用各种开源模型。 2. LM Studio：使用 LM Studio 等本地应用程序，在个人电脑上运行和部署较小的开源模型。
2025-03-03
ollama是什么，使用场景有什么
Ollama 是一个开源的框架，旨在简化在本地运行大型语言模型（LLM）的过程。 它具有以下特点和优势： 1. 支持多种大型语言模型：包括通义千问、Llama 2、Mistral 和 Gemma 等，适用于不同应用场景。 2. 易于使用：适用于 macOS、Windows 和 Linux 系统，支持 CPU 和 GPU，能让用户轻松在本地环境中启动和运行大模型。 3. 模型库：提供丰富的模型库，用户可从中下载不同参数和大小的模型以满足不同需求和硬件条件，通过 https://ollama.com/library 查找。 4. 自定义模型：用户能通过简单步骤自定义模型，如修改温度参数调整创造性和连贯性，或设置特定系统消息。 5. API 和集成：提供 REST API 用于运行和管理模型，以及与其他应用程序的集成选项。 6. 社区贡献丰富：包括多种集成插件和界面，如 Web 和桌面应用、Telegram 机器人、Obsidian 插件等。 总的来说，Ollama 是一个高效、功能齐全的大模型服务工具，不仅适用于自然语言处理研究和产品开发，也适合初学者或非技术人员使用，特别是那些希望在本地与大型语言模型交互的用户。 其使用场景包括但不限于： 1. 自然语言处理研究。 2. 产品开发。 安装方法：官方下载地址为 https://ollama.com/download 。安装完成后，在 macOS 上启动 ollama 应用程序，在 Linux 上通过 ollama serve 启动，可通过 ollama list 确认是否安装成功。运行大模型时，在命令行中输入相应命令即可，模型会自动下载到本地。在 Python 程序中使用时，需确保 ollama 服务已开启并下载好模型。
2025-02-22
coze搭建智能体，用上传的文件和知识库的文件做对比，分析差异点。
以下是关于在 Coze 中搭建智能体的相关信息： 1. 证件照相关操作： 展示原图上传结果，基本脸型已换，生成效果与上传照片特征有关。 改背景可利用改图功能，一键改图效果更好，输出数据类型为图片。 豆包节点生成的是 URL 地址，与前者不同，在工作流使用有差异，可参考简单提示词。 介绍证件照工作流相关操作，包括通过提示词改背景颜色，设置输出方式为返回变量；讲解消耗 token 及保存结果相关问题；对按钮、表单添加事件并设置参数，限制上传文件数量；还涉及给表单和图片绑定数据，以及每次操作后刷新界面确保设置生效。 围绕操作讲解与优化展开，介绍 for meet 的设置，如表单事件操作、图片上传数量修改等，提及编程基础知识。还讲述成果图连接、绑定数据方法及注意事项。展示基本功能实现情况，分析换性别等问题成因，指出需在工作流优化提示词，也可尝试用视频模型解决，最后进入问答环节。 2. 多维表格的高速数据分析： 创建智能体，使用单 Agent 对话流模式。 编排对话流，创建新的对话流并关联智能体。 使用代码节点对两个插件获取的结果进行数据处理，注意代码节点输出的配置格式。 测试，找到一篇小红书笔记，试运行对话流，在对话窗口输入地址查看数据。 发布，选择多维表格，配置输出类型为文本，输入类型选择字段选择器，完善上架信息，可选择仅自己可用以加快审核。 3. 智能体与微信和微信群的连接： 创建知识库，可选择手动清洗数据提高准确性，包括在线知识库和本地文档。 在线知识库创建时，飞书在线文档中每个问题和答案以分割，可编辑修改和删除。 本地文档中注意拆分内容提高训练数据准确度，如将课程章节按固定方式人工标注和处理。 发布应用，确保在 Bot 商店中能够搜到。
2025-04-18
以DeepSeek R1为代表的推理模型，与此前模型（如 ChatGPT-4、Claude 3.5 sonnet、豆包、通义等）的差异点主要在于
以 DeepSeek R1 为代表的推理模型与此前模型（如 ChatGPT4、Claude 3.5 sonnet、豆包、通义等）的差异点主要在于： 1. 技术路线：DeepSeek R1 与 OpenAI 现在最先进的模型 o1、o3 一样，属于基于强化学习 RL 的推理模型。 2. 思考方式：在回答用户问题前，R1 会先进行“自问自答”式的推理思考，模拟人类的深度思考，从用户初始问题出发，唤醒所需的推理逻辑与知识，进行多步推导，提升最终回答的质量。 3. 训练方式：在其他模型还在接受“填鸭式教育”时，DeepSeek R1 已率先进入“自学成才”的新阶段。 4. 模型制作：R1 是原生通过强化学习训练出的模型，而蒸馏模型是基于数据微调出来的，基础模型能力强，蒸馏微调模型能力也会强。此外，DeepSeek R1 还能反过来蒸馏数据微调其他模型，形成互相帮助的局面。 5. 与 Claude 3.7 Sonnet 相比，Claude 3.7 Sonnet 在任务指令跟随、通用推理、多模态能力和自主编程方面表现出色，扩展思考模式在数学和科学领域带来显著提升，在某些方面与 DeepSeek R1 各有优劣。
2025-03-19
推理类模型，以deepseek为代表，与此前的聊天型ai，比如chatgpt3.5，有什么差异
推理类模型如 DeepSeek 与聊天型 AI 如 ChatGPT3.5 存在以下差异： 1. 内部机制：对于大语言模型，输入的话会被表示为高维时间序列，模型根据输入求解并表示为回答。在大模型内部，是根据“最大化效用”或“最小化损失”计算，其回答具有逻辑性，像有自己的思考。 2. 多模态能力：ChatGPT3.5 是纯语言模型，新一代 GPT 将是多模态模型，能把感官数据与思维时间序列一起作为状态，并装载在人形机器人中，不仅能对话，还能根据看到、听到的事进行判断，甚至想象画面。 3. 超越人类的可能性：有人假设人按最大化“快乐函数”行动，只要“效用函数”足够复杂，AI 可完全定义人，甚至超越人类。如在“短期快乐”与“长期快乐”的取舍上，人类难以找到最优点，而 AI 可通过硬件算力和强化学习算法实现，像 AlphaGo 击败世界冠军，在复杂任务上超越人类。 4. 应用领域：文字类的总结、润色、创意是大语言模型 AI 的舒适区，如从 ChatGPT3.5 问世到 ChatGPT4 提升，再到 Claude 3.5 sonnet 在文学创作领域取得成绩，只要有足够信息输入和合理提示词引导，文案编写可水到渠成。
2025-03-18
ai agent和workfolw的差异
AI Agent 和 Workflow 的主要差异如下： 任务编排方式：AutoGPT 的任务由大模型自动编排，而 Workflow 中的子任务是人为编排的。 带来的优化： 流程中可加入人类 Knowhow，弥补模型知识的不足。 专家测试试跑，减少生产环境中的无效反思，提升 Agent 的表现。 引入图的概念，灵活组织节点，连接各类工具，包括套工具、套其他 Agent、写代码用硬逻辑处理、接大模型进行判断等，极大地提高了灵活性和可控性，提升了 Agent 能力的上限。 解决的问题：Agentic Workflow 可以从提升效率、提高质量、节省时间的角度思考，通过将复杂任务分解为小步骤，融入更多人类参与的规划与定义，减少对 Prompt Engineering 和模型推理能力的依赖，提高 LLM 应用面向复杂任务的性能。 涉及的概念： 记忆：分为短期记忆和长期记忆，短期记忆将上下文学习视为利用模型的短期记忆学习，长期记忆提供长期存储和召回信息的能力。 工具：学会调用外部不同类型 API 获取模型缺少的额外信息、代码执行能力、访问专有信息源等。 动作：大模型根据问句、上下文规划、各类工具决策出最终执行的动作。 人机协同关系：生成式 AI 的人机协同分为 Embedding（嵌入式）、Copilot（副驾驶）、Agent（智能代理）3 种模式，不同模式下人与 AI 的协作流程有所差异。 Embedding 模式：人类完成大多数工作。 Copilot 模式：人类和 AI 协同工作。 Agents 模式：AI 完成大多数工作。 工作流变革：使用 Multiagent Collaboration 的方法，让不同角色的 Agent 按照任务要求自主规划选择工具、流程进行协作完成任务。 信息处理逻辑：抽象化拆解大模型的底层能力，如翻译、识别、提取、格式化等，围绕“输入”“处理”“输出”“反馈”构建最底层的信息处理逻辑。 对获取信息方式的重塑：搜索引擎和基于大模型的聊天机器人在解决问题方面目标一致，ChatGPT 的发布被认为将对传统搜索引擎带来颠覆。
2025-03-18
我想整理现在国内和国外的大语言模型产品并需要你整理差异还有时间轴
以下是对国内外大语言模型产品的整理及差异： 国内大语言模型： 通用模型：如文心一言、讯飞星火等，能够处理自然语言。 垂直模型：专注于特定领域，如小语种交流、临床医学、AI 蛋白质结构预测等。 具有代表性的项目：“悟道・天鹰”（北京智源人工智能研究院）是首个具备中英文双语知识、支持商用许可协议、国内数据合规需求的开源语言大模型；文心一言（百度）可用以文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成。 国外大语言模型： 具有代表性的项目：GPT4（OpenAI）是目前最先进的自然语言生成模型，可用于回答问题、撰写文章等；Gemini Ultra（Google）是多模态人工智能模型，采用神经网络架构，对标 GPT4，可用于回答问题、生成代码、处理文本等；Claude 3 Opus（Anthropic）是多模态模型，能处理超过 1 百万 token 的输入，具有实时聊天、数据处理、分析预测等功能，实现了接近完美的召回率。 时间轴方面： 国内：去年 7 月大模型百花齐放。 国外：相关模型也在不断发展和更新。 在工作原理上，大语言模型通常包括训练数据、算力、模型参数等要素。在训练数据一致的情况下，模型参数越大能力越强。Transformer 架构是大语言模型训练的常见架构，具备自我注意力机制能理解上下文和文本关联。同时，大模型可能存在幻觉，即因错误数据导致给出错误答案，优质数据集对其很重要。此外，Prompt 分为 system prompt、user prompt 和 assistant prompt，写好 Prompt 的法则包括清晰说明、指定角色、使用分隔符、提供样本等。还可以基于通用大模型进行 Fine tuning 微调，以适应特定领域的需求。
2025-03-07
我的工作是财务会计，经常需要对账，输入是2个Excel表格，但格式内容都有不少差异，哪些大模型或者工具可以帮我快速完成这个工作？
以下是一些可能有助于您快速完成对账工作的大模型或工具： 1. Coze 记账管家：它能通过大语言模型将用户输入的非结构化数据转变为结构化数据存入数据库。工作流程包括定义提示词，让大模型拆解并识别记账事项、发生时间、变动金额等，然后将这些数据存入数据库。 2. GLM4AllTools：可用于统计平台月度账单，例如您可以从平台导出月度明细数据，上传账单给沙盒，让模型统计账单数据和用量，还能分析账单数据波动。 3. 生成式 AI：在金融服务领域，它能帮助改进内部流程，如预测编写 Excel、SQL 和 BI 工具中的公式和查询，自动创建报告的文本、图表、图形等内容，为会计和税务团队提供税法和扣除项的可能答案，以及帮助采购和应付账款团队自动生成和调整合同、采购订单和发票等。
2025-02-15