支持Mac的AI助手，能支持自定义大模型和智能体

首先我们可以通过创建一个百炼应用，来获取大模型的推理API服务，用于实现AI助手。[heading3]1.1创建应用[content]1.进入百炼控制台的[我的应用](https://bailian.console.aliyun.com/#/app-center)，在页面右侧点击新增应用。在对话框，选择智能体应用并创建。1.2.在应用设置页面，模型选择通义千问-Plus，其他参数保持默认。3.您也可以选择输入一些Prompt，比如设置一些人设以引导大模型更好的应对客户咨询。4.1.2.在页面右侧可以提问验证模型效果。不过您会发现，目前它还无法准确回答你们公司的商品信息。点击右上角的发布，我们将在后面的步骤中去解决这一问题。3.1.[heading3]1.2获取调用API所需的凭证[content]为了在后续通过API调用大模型应用的能力，我们需要获取一个百炼应用的API-KEY和应用ID：1.在我的应用>应用列表中可以查看所有百炼应用ID。保存应用ID到本地用于后续配置。1.2.在顶部导航栏右侧，点击人型图标，点击API-KEY进入我的API-KEY页面。在页面右侧，点击创建我的API-KEY，在弹出窗口中创建一个新API-KEY。保存API-KEY到本地用于后续配置。1.

1.支持多种大型语言模型：Ollama支持包括通义千问、Llama 2、Mistral和Gemma等在内的多种大型语言模型，这些模型可用于不同的应用场景。2.易于使用：Ollama旨在使用户能够轻松地在本地环境中启动和运行大模型，适用于macOS、Windows和Linux系统，同时支持cpu和gpu。3.模型库：Ollama提供了一个模型库，用户可以从中下载不同的模型。这些模型有不同的参数和大小，以满足不同的需求和硬件条件。Ollama支持的模型库可以通过https://ollama.com/library进行查找。4.自定义模型：用户可以通过简单的步骤自定义模型，例如修改模型的温度参数来调整创造性和连贯性，或者设置特定的系统消息。5.API和集成：Ollama还提供了REST API，用于运行和管理模型，以及与其他应用程序的集成选项。6.社区贡献：Ollama社区贡献丰富，包括多种集成插件和界面，如Web和桌面应用、Telegram机器人、Obsidian插件等。7.总的来说，Ollama是一个为了方便用户在本地运行和管理大型语言模型而设计的框架，具有良好的可扩展性和多样的使用场景。后面在捏Bot的过程中需要使用Ollama，我们需要先安装，访问以下链接进行下载安装。https://ollama.com/download/安装完之后，确保ollama后台服务已启动（在mac上启动ollama应用程序即可，在linux上可以通过ollama serve启动）。我们可以通过ollama list进行确认，当我们还没下载模型的时候，正常会显示空：可以通过ollama命令下载模型，目前，我下载了4个模型：几个模型简介如下:

大模型具有强大的语言理解和生成能力，但也存在一定的局限性，例如：无法回答私有领域问题（如公司制度、人员信息等）；无法及时获取最新信息（如实时天气、比赛结果等）；无法准确回答专业问题（如复杂数学计算、图像生成等）。为了提升用户体验和增强业务竞争力，越来越多的企业会构建AI助手，以便全天候（7x24）回应客户咨询。在阿里云上，只需几分钟即可构建一个AI助手，并发布到网站、钉钉或微信公众号中。适用于以下客户场景：有企业官网、钉钉、微信等渠道，期望为客户提供产品咨询服务缺少技术人员开发大模型问答应用智能体应用基于大模型，通过集成特定的外部能力，能够弥补大模型的不足。外部能力指的是大模型本身不具备的功能，例如实时信息获取、回答私有领域问题等。您可以在百炼控制台通过零代码的方式创建智能体应用，并将外部能力集成到应用中，从而解决您的具体业务需求。梦飞老师之前在社群内直播的时候对对话型机器人有比较深的理解了，大家也可以回顾一下之前的私域营销的Bot。智能体应用的典型场景1.私有领域知识问答：您只需准备好相关知识库文件，就可以在百炼控制台快速创建一个私有领域知识问答应用，应用场景包括公司制度、人员信息等。2.个性化聊天机器人：百炼提供了长期记忆功能，可以保存关键历史对话信息，从而提供个性化的聊天体验。平台还集成了夸克搜索和图像生成等插件，进一步扩展了聊天机器人的功能。3.智能助手：通过引入RAG（检索增强生成）能力、长期记忆和自定义插件等功能，您可以构建一个智能助手，帮助提升工作效率，如处理邮件、撰写周报等。