以下是一些可以简化在应用中接入 AI 大模型能力的工具和库:
另外,基于 LangChain 平台提供的 LLM 基础模型,也能完成任意模型接口的封装。LLM(语言逻辑模型)是 LangChain 平台与各种大模型进行交互的核心模型,是一个抽象概念,可理解为处理语言输入和输出的黑盒。其输入是字符串表示的用户请求或问题,输出也是字符串表示的模型回答或结果。LLM 能根据不同输入调用不同大模型完成不同语言任务,具有无需关心大模型细节和复杂性、灵活选择切换大模型、可自行封装实现语言逻辑和功能等优势。
在基础通识课中,还提到了一些相关内容,如流式训练方式提升训练速度和质量,多种 AI 生成工具(如 so no 音频生成工具、能创建个人 AI 智能体的豆包、输入文本可生成播客的 Notebook LN),端侧大模型的特点,AI 工程平台(如 define、coach 等),模型社区(如魔搭社区)等。
[title]DIN:全程白嫖-拥有一个AI大模型的微信助手1.搭建[OneAPI](https://github.com/songquanpeng/one-api),这东西是为了汇聚整合多种大模型接口,方便你后面更换使用各种大模型。下面会告诉你怎么去白嫖大模型接口。2.搭建[FastGpt](https://fastgpt.in/),这东西就是个知识库问答系统,你把知识文件放进去,再把上面的大模型接进来,作为分析知识库的大脑,最后回答你问题,这么个系统。如果你不想接到微信去,自己用用,其实到这里搭建完就OK了,他也有问答界面。3.搭建[chatgpt-on-wechat](https://github.com/zhayujie/chatgpt-on-wechat),接入微信,配置FastGpt把知识库问答系统接入到微信。这里建议先用个小号,以防有封禁的风险。搭建完后想拓展Cow的功能,我推荐Yaki.eth同学这篇教程[Yaki:GPT /MJ接入微信](https://waytoagi.feishu.cn/wiki/UADkwZ9B0iAWdTkFJIjcN7EgnAh),里面的cow插件能进行文件总结、MJ绘画的能力。完成上面3步就算OK了,那我们正式开始。
LLM(语言逻辑模型)是LangChain平台与各种大模型进行交互的核心模型,它是一个抽象的概念,可以理解为一个能够处理语言输入和输出的黑盒。LLM的输入是一个字符串,表示用户的请求或问题,LLM的输出也是一个字符串,表示模型的回答或结果。LLM可以根据不同的输入,调用不同的大模型,来完成不同的语言任务,如文本生成、文本理解、文本翻译等。LLM的优势在于,它可以让开发者无需关心大模型的细节和复杂性,只需要关注语言的逻辑和意义,就可以利用大模型的能力来构建自己的应用。LLM也可以让开发者灵活地选择和切换不同的大模型,而无需修改代码或适配接口。LLM还可以让开发者自己封装自己的LLM,来实现自己的语言逻辑和功能。
[title]02-基础通识课[heading1]智能纪要[heading2]总结AI技术的发展与应用流式训练方式提升训练速度和质量:将孔明灯换成泡泡,通过流式训练方式提高了整体训练的过程速度和质量,基于Transformer模型进行流匹配,这种方式优于扩大模型。多种AI生成工具:如输入简单提示词就能创作音乐的so no音频生成工具,能创建个人AI智能体的豆包,输入文本可生成播客的Notebook LN。端侧大模型的特点:端侧大模型能部署在手机端等设备,参数量小,可利用手机自带芯片或处理器运算,主要通过压缩来解决存储和性能问题,如减少模型参数量和计算复杂度,知识蒸馏模型有教师模型和学生模型。AI工程平台:AI工程平台对模型和应用有要求,像define是典型的工程平台,涉及数据清洗管道、数据存储和检索、编辑生成平台、构建prompt技巧、智能体概念、插件调用、运维平台、模型层和缓存机制等,还能接入多家大模型。AI工程平台coach的应用:coach平台新版本有很多模板,如名画照相馆,有众多插件工具,包括必应搜索、链接读取、代码执行器等,还有工作流,可创建应用APP。AI相关工具与平台的介绍及应用coach平台的使用:介绍了coach平台的新手教程和文档,可创建智能体,通过工作流节点调用和prompt构建提示词,还能调用插件、图像流、知识库等,商城中有各种智能体和插件模板,知识库可添加多种格式内容。模型社区介绍:提到魔搭社区等几个为大模型提供数据、企业模型和算力服务的平台,有按任务划分的模型库、数据集和在线应用供体验。AI建站预告:为后续AI建站做预告,需要在今明两天安装vs code等基础软件,以简单步骤帮助文科生和无基础人员完成建站,获得正反馈。