Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

llm是什么

Answer

LLM 即语言逻辑模型（Language Logic Model），具有以下特点和工作原理：

  • 在 LangChain 平台中，LLM 是与各种大模型进行交互的核心模型，是一个能够处理语言输入和输出的抽象概念，输入是用户的请求或问题字符串，输出是模型的回答或结果字符串。它能根据不同输入调用不同大模型完成多种语言任务，如文本生成、理解、翻译等。其优势在于让开发者无需关心大模型细节和复杂性，只关注语言逻辑和意义，还能灵活选择和切换大模型，甚至自己封装 LLM 实现特定语言逻辑和功能。
  • 开源的中文大语言模型及数据集集合中包含如 CPM-Bee、TigerBot、书生·浦语、Aquila 等。
  • 大语言模型如豆包在回复时采用流式输出方式，一个字一个字地推理生成内容。这类似于输入法的输入联想逻辑，会根据输入的单个字及上下文推测下一个字。但由于大模型学习数据规模海量，每次计算若带入全量数据，算力上难以承受。
Content generated by AI large model, please carefully verify (powered by aily)

References

开发：LangChain大模型应用开发指南-封装自己的LLM

LLM（语言逻辑模型）是LangChain平台与各种大模型进行交互的核心模型，它是一个抽象的概念，可以理解为一个能够处理语言输入和输出的黑盒。LLM的输入是一个字符串，表示用户的请求或问题，LLM的输出也是一个字符串，表示模型的回答或结果。LLM可以根据不同的输入，调用不同的大模型，来完成不同的语言任务，如文本生成、文本理解、文本翻译等。LLM的优势在于，它可以让开发者无需关心大模型的细节和复杂性，只需要关注语言的逻辑和意义，就可以利用大模型的能力来构建自己的应用。LLM也可以让开发者灵活地选择和切换不同的大模型，而无需修改代码或适配接口。LLM还可以让开发者自己封装自己的LLM，来实现自己的语言逻辑和功能。

LLM开源中文大语言模型及数据集集合

地址：[https://github.com/OpenBMB/CPM-Bee](https://github.com/OpenBMB/CPM-Bee)简介：一个完全开源、允许商用的百亿参数中英文基座模型。它采用Transformer自回归架构（auto-regressive），在超万亿（trillion）高质量语料上进行预训练，拥有强大的基础能力。开发者和研究者可以在CPM-Bee基座模型的基础上在各类场景进行适配来以创建特定领域的应用模型。TigerBot地址：[https://github.com/TigerResearch/TigerBot](https://github.com/TigerResearch/TigerBot)简介：一个多语言多任务的大规模语言模型(LLM)，开源了包括模型：TigerBot-7B,TigerBot-7B-base，TigerBot-180B，基本训练和推理代码，100G预训练数据，涵盖金融、法律、百科的领域数据以及API等。书生·浦语地址：[https://github.com/InternLM/InternLM-techreport](https://github.com/InternLM/InternLM-techreport)简介：商汤科技、上海AI实验室联合香港中文大学、复旦大学和上海交通大学发布千亿级参数大语言模型“书生·浦语”（InternLM）。据悉，“书生·浦语”具有1040亿参数，基于“包含1.6万亿token的多语种高质量数据集”训练而成。Aquila

Ranger：【AI 大模型】非技术背景，一文读懂大模型（长文）

首先讲一下LLm，即large-language-model，大语言模型的工作原理。我们可以观察LLm大模型比如豆包在回复的时候，是不是一个一个字，行业里称之为流式输出的方式给你呈现内容的。为什么会这样呢？这是因为，大模型确实是在一个字一个字地去推理生成内容的。就好像我们看输入法的输入联想逻辑，输入联想，其实就是根据你输入的单个字，来推测你要输入的下个字是什么。比如我打了一个“输”字，那么我要打的下字就很有可能是“入”，当然这里就会有人问了，我要打的下个字也很有可能是“球”啊。没错，最开始的研究人员确实也识别到了这个问题。那么解法是什么呢？其实很简单，我们把上下文加入到输入里，不就能帮助模型理解下个字该是什么了吗。比如我们输入的是“我想在这个单元格中输”，那这下一个字大概率就是“入”。而我们如果输入的是“这场足球比赛中，输”，那下一个字大概率就是“球”。那么看到这里，善于思考的同学可能会发现这里存在第一，我们知道大模型的学习数据规模往往是海量的，每次的计算如果都带入全量的数据，算力上肯定是吃不消的。

Others are asking
notebookllm
NotebookLM 是谷歌推出的一款工具，具有以下特点和用途： 有人称它为笔记工具，有人说它是 AI 学习工具，还有人认为它是播客生成器。 只要上传文档、音频或感兴趣的网页链接，如 YouTube 等，就能轻松生成专业的播客。播客中两个主持人的对话生动自然，包含各种人类的语气和行为。 是 Google AI Lab 开发的笔记应用，基于 Gemini 1.5 Pro 的长文本理解和多模态能力。用户可通过上传文件或链接快速生成笔记和音频内容，适合教育和研究等场景。尽管产品界面设计一般，但其强大的文本理解能力在处理复杂内容时表现突出。支持协作，适合整理公众号文章、编写书稿等多种用途。 体验地址：https://notebooklm.google/
2025-03-22
使用llm的爬虫工具推荐下，开源免费
以下是为您推荐的开源免费的使用 LLM 的爬虫工具： 1. Jina 开源的网页内容爬取工具：Reader API 能从网址提取出核心内容，并将其转化为干净、易于大语言模型处理的文本，确保为您的 AI 智能体及 RAG 系统提供高品质的数据输入。 2. Scrapy 库（Python 语言）：在 crawlab 可以做到分布式爬取，非常高效。 3. GPT Crawler：主要运用 typescript 进行数据爬取。 4. 在开源的项目中，为实现对含有 JavaScript 内容的网页抓取，不使用 Python 自己的 request 库，而是使用 playwright 之类的浏览器，并将网页内容按照一定规则转化成 markdown 格式，方便 LLM 后续的理解和抓取。 同时，对于爬虫工具的选择，还需根据您的具体需求和技术熟悉程度来决定。
2025-03-06
llm项目
以下是一些与 LLM 项目相关的信息： 开源中文大语言模型及数据集集合： LuotuoChineseLLM：地址为，囊括了一系列中文大语言模型开源项目，包含基于已有开源模型进行二次微调的语言模型、指令微调数据集等。 Linly：地址为，提供中文对话模型 LinlyChatFlow、中文基础模型 LinlyChineseLLaMA 及其训练数据。 ChatYuan：地址为，是元语智能发布的一系列支持中英双语的功能型对话语言大模型，在微调数据、人类反馈强化学习、思维链等方面进行了优化。 ChatRWKV：地址为，开源了一系列基于 RWKV 架构的 Chat 模型（包括英文和中文），可以直接闲聊及进行诗歌、小说等创作。 无需微调，仅用提示词工程就能让 LLM 获得 tool calling 的功能：作者 ailm 提出一种仅使用提示词工程和精巧的代码设计，即可让 LLM 获得稳定的 tool calling 能力。使用多个不具备 tool calling 能力的 LLM 作为测试模型，在多个工具调用任务上实验成功率为 100%。工作基于 comfyui 开发，适合无代码基础的人员复现和修改。 XiaoHu.AI 日报 1 月 29 日： LLMsfromscratch 项目：详细解释 LLMs 的工作原理，提供创建自己的 LLM 的逐步指南，适合企业团队、初创公司和教育机构学习。链接： SliceGPT 微软开发的大语言模型压缩方法：在保持高性能的同时大幅减少模型参数，允许在更少的 GPU 上运行，提高运行速度，显著降低在消费级 GPU 上的总计算量。链接： VisualWebArena 自主智能体的视觉网络任务基准测试：评估智能体在网络环境中的规划、推理和执行任务能力，着重于视觉信息的重要性和多模态智能体评估，提供深入的定量和定性分析，揭示 LLM 智能体的限制。链接： 百川智能的 Baichuan 3 模型：中文任务评测表现卓越，超越 GPT4，在医疗领域和中华传统文化理解方面表现突出，引入创新技术，提高训练效率和数据质量。链接： Apple Vision Pro 最新宣传片：链接
2025-03-04
如何写适配多个llm的提示词
以下是关于如何写适配多个 LLM 的提示词的详细内容： 实现原理： 提示词工程主要由两部分代码组成，即提示词注入和工具结果回传。提示词注入用于将工具信息及使用工具的提示词添加到系统提示中，它包含 TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT 三个部分。TOOL_EAXMPLE 用于提示 LLM 如何理解和使用工具，编写时应注意用无关紧要的工具作示例以免 LLM 混淆。tools_instructions 是将通用工具字典转换成 LLM 可读的工具列表，实际使用时可动态调整以让 LLM 知晓可用工具及使用方法。REUTRN_FORMAT 定义了调用 API 的格式。工具结果回传则是解析 tool calling 的输出，并将工具返回的内容再次嵌入 LLM，利用正则表达式抓取输出中的“tool”和“parameters”参数，对于 interpreter 工具使用另一种正则表达式提取 LLM 输出的代码，以提高成功率。对于不接受某些角色的 LLM 接口，可改为回传给 user 角色。 相关成果： 目前绝大多数小型本地开源大语言模型以及部分商用大模型接口不支持稳定的 tool calling 功能，现有的微调 LLM 解决方案会浪费大量时间和算力。本文提出仅使用提示词工程和精巧的代码设计，让 LLM 获得稳定的 tool calling 能力。使用多个不具备该能力的 LLM 作为测试模型，在多个工具调用任务上实验成功率达 100%，且基于 comfyui 开发，适合无代码基础的人员复现和修改。
2025-03-03
什么是llm
LLM（大型语言模型）是一种具有重要地位和强大功能的人工智能系统。 从不同角度来看： 它更像是新操作系统的核心程序，能够协调跨多种模式的输入与输出（如文本、音频、视觉），具备代码解释和运行程序的能力，还拥有浏览器/上网功能、嵌入式数据库用于文件和内部内存存储与检索等。 在开发中，LLM 是 LangChain 平台与各种大模型进行交互的核心模型，是一个抽象概念，输入是字符串表示的用户请求或问题，输出也是字符串表示的模型回答或结果，能调用不同大模型完成不同语言任务，让开发者无需关心大模型细节，还能灵活选择和切换大模型，甚至自己封装 LLM 实现特定语言逻辑和功能。 简单理解，LLM 就像一个非常聪明、知识丰富的“朋友”，能够通过学习大量文字数据来理解和生成自然语言，回答各种问题、写故事、完成作文等。可以把它想象成一个从小读了很多书、知识不断丰富的小朋友，虽然不是真人而是计算机程序，但能处理和学习海量文字数据，这些数据来源广泛。如今的搜索引擎背后可能就有 LLM 的支持，能更准确完整地回答问题。 总的来说，LLM 是一种通过学习大量文本数据，能够理解和生成自然语言的人工智能系统。
2025-03-01
帮我推荐一本入门llm的书
以下是为您推荐的入门 LLM 的相关资源： 1. 《皇子：LLM 经典论文速读版，看完感觉自己通透了》：包含 31 篇 LLM 的经典论文速读版，涵盖大语言模型架构、RAG、预训练、微调、提示词等内容。阅读前可安装浏览器插件“沉浸式翻译”方便中文阅读，将 arxiv PDF 论文原地址域名中的 x 更换成 5 可调整为 HTM 版本方便阅读。 2. 课程学习： 首先学习大语言模型（LLM）入门者的课程，这是了解 LLM 的基础。 进一步学习面向开发者的课程，帮助更好地应用 LLM 于实际项目中。 3. AI 大神 Karpathy 再发的 LLM 入门介绍视频：时长三个半小时，详细介绍 LLM 训练的全部过程，包括预训练、有监督微调和强化学习。即使没有技术背景也能看懂，将提供对 ChatGPT 等 LLM 完整训练流程的直观理解，包含许多示例，并可能帮助思考当前的能力、所处的位置以及未来的发展方向。
2025-02-23