直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

LLM原理

回答

LLM（大语言模型）的工作原理如下：

  • 大模型在回复时是一个字一个字地推理生成内容，就像输入法的输入联想逻辑，会根据输入的字推测下一个字。但仅算字的概率存在问题，且全量数据计算算力吃不消。
  • 为解决这些问题，出现了词向量机制和 transformer 模型中的 attention 自注意力机制。
  • 以“我今天吃了狮子头和蔬菜”这句话为例，在 transformer 中，attention 层会对其加入更多信息补充，如“狮子头是一道菜”“今天是星期六”等，层与层之间由模型自主学习哪些信息补充、保留和传递，最终把海量数据以关系网形式“消化”并保留重要相关性。
  • 这些层就像人阅读文章时的连贯性注意力过程，记忆的不是点状知识而是网状经验。
  • 大模型以词向量和 transformer 的模型学习海量知识，把知识作为向量空间中的关系网存储，接受输入时通过向量空间中的匹配进行输出。
  • 就像人脑阅读学习，记忆不是逐字逐句，而是按相关性、重要程度结合历史经验，比如记忆“红色”时会带有很多“feature”信息。

常见缩写和专业词汇解释：

  • LLM：Large language model 的缩写，即大语言模型。
  • Prompt：中文译作提示词，是输入给大模型的文本内容，其质量会影响回答质量。
  • Token：大模型语言体系中的最小单元，不同厂商对中文的切分方法不同，1Token 约等于 1 - 2 个汉字，收费和输入输出长度限制以 token 为单位。
  • 上下文：英文为 context，指对话聊天内容前、后的信息，其长度和窗口会影响回答质量。
内容由 AI 大模型生成，请仔细甄别（powered by aily）

参考资料

Ranger：【AI 大模型】非技术背景，一文读懂大模型（长文）

[title]Ranger：【AI大模型】非技术背景，一文读懂大模型（长文）[heading2]三、理解模型如何运作[heading3]1.LLm工作原理打个比方，“我今天吃了狮子头和蔬菜”这句话，在transformer中，会由attention层对这句话加入更多的信息来补充。比如补充“狮子头是一道菜”“今天是星期六”等等。这些补充信息，会作为输入给到下一个attention层进行补充。当然有些信息可能是不重要的，也会被忽视掉。最终层与层之间，哪些信息需要补充，哪些信息需要保留，哪些信息传递，均由模型自主学习完成。而最终学习的结果就是，模型可以把海量的数据以关系网的形式“消化”掉，并保留其重要的相关性。这些表述可能还不够直观，再打个比方，这些层就好像人在去阅读文章的时候的一个连贯性注意力的过程。就好像我们在去阅读理解一篇文章的时候，脑子里会对输入的内容进行消化然后吸收记忆，而记忆下来的不是点状的知识，而是网状的经验。3）再形象些的比喻llm的原理基本就是这样了，总结起来就是大模型以词向量和transformer的模型学习了海量的知识，把知识作为向量空间中的一种关系网进行存储，并在接受输入时，通过向量空间中的一系列匹配进行输出。这个过程其实大家想一想，是不是就像是人脑在阅读学习的个过程？比如我们在记忆一些资料时，其实记忆的也不可能是逐字逐句去记忆的，也是按照相关性，重要程度，再结合历史经验信息进行记忆的。记忆下来的东西，也不是一个个的文字，而更像是一种感觉，一种“意象”。再比如我们去看红色，会觉得这个代表温暖，代表强烈，这也是因为我们在去记忆这个信息时，同时受到来自生理、社会伦理等的关联记忆，所以一个简单的“红色”在我们的脑海中记忆时，也不仅是一个简单的词语，而是带有了很多的“feature”信息。

Ranger：【AI 大模型】非技术背景，一文读懂大模型（长文）

[title]Ranger：【AI大模型】非技术背景，一文读懂大模型（长文）[heading2]三、理解模型如何运作[heading3]1.LLm工作原理首先讲一下LLm，即large-language-model，大语言模型的工作原理。我们可以观察LLm大模型比如豆包在回复的时候，是不是一个一个字，行业里称之为流式输出的方式给你呈现内容的。为什么会这样呢？这是因为，大模型确实是在一个字一个字地去推理生成内容的。就好像我们看输入法的输入联想逻辑，输入联想，其实就是根据你输入的单个字，来推测你要输入的下个字是什么。比如我打了一个“输”字，那么我要打的下字就很有可能是“入”，当然这里就会有人问了，我要打的下个字也很有可能是“球”啊。没错，最开始的研究人员确实也识别到了这个问题。那么解法是什么呢？其实很简单，我们把上下文加入到输入里，不就能帮助模型理解下个字该是什么了吗。比如我们输入的是“我想在这个单元格中输”，那这下一个字大概率就是“入”。而我们如果输入的是“这场足球比赛中，输”，那下一个字大概率就是“球”。那么看到这里，善于思考的同学可能会发现这里存在第一，我们知道大模型的学习数据规模往往是海量的，每次的计算如果都带入全量的数据，算力上肯定是吃不消的。第二，仅去算字的概率，似乎也有问题。因为我们用于训练的文章数据等，往往是出于各种场景各种背景写就的。仅去算下个字出现的概率，容易会被各种不相干的信息干扰。是的，研究人员同样也遇到了这两个问题，而这时，两个概念的出现解决了这一难题。一个是词向量机制，一个是transformer模型中的attention自注意力机制。1）词向量机制

走入AI的世界

[title]走入AI的世界[heading2]3清楚原理：必须理解的核心概念和听得懂的底层原理[heading4]3.1必须理解的核心概念首先我们给出一些常见缩写和专业词汇的“人话”解释，它们十分基础，但理解他们至关重要。为了讨论更加聚焦，接下来的内容将主要围绕大语言模型为主进行展开（对于其他模态的大模型，我们暂且放放）：LLM：Large language model的缩写，即大语言模型，前面百团大战中的各类大模型，说的都是大语言模型（极其应用）Prompt：中文译作提示词，就是我们输入给大模型的文本内容，可以理解为你和大模型说的话，下达的指令。提示词的质量好坏，会显著影响大模型回答的质量，很多时候如果你觉得大模型回答的太差了，AI味儿太浓了，很可能是你的提示词写的不够好，换言之，不是AI不行，而是你不行😌Token：就像人类有着不同的语言，大模型也有着自己的语言体系，如图9，我们发送文本给大模型时，大模型会先把文本转换为他自己的语言，并推理生成答案，而后再翻译成我们看得懂的语言输出给我们。正如人类不同语言都有最小的字词单元（汉语的字/词，英语的字母/单词），大模型语言体系中的最小单元就称为Token。这种人类语言到大模型语言的翻译规则，也是人类定义的，以中文为例，由于不同厂商的大模型采用了不同的文本切分方法，因此一个Token对应的汉字数量也会有所不同，但在通常情况下，1Token≈1-2个汉字。请注意，大模型的收费计算方法，以及对输入输出长度的限制，都是以token为单位计量的。上下文：英文通常翻译为context，指对话聊天内容前、后的内容信息。使用时，上下文长度和上下文窗口都会影响AI大模型回答的质量。上下文长度限制了模型一次交互中能够处理的最大token数量，而上下文窗口限制了模型在生成每个新token时实际参考的前面内容的范围（关于这一点，你需要看完3.2中关于GPT的讨论，方能更好理解）

其他人在问
LLM和COT分别是什么
LLM 即大型语言模型（Large Language Model），是一种基于深度学习的自然语言处理模型，具有强大的语言理解和生成能力。例如 FlanT5、ChatGLM、UL2、Qwen、Chinchilla、OPT、PaLM、LLaMA、LLaMA2、Vicuna 等都是常见的 LLM 模型。 COT 即思维链（ChainofThought），它能引导 LLM 逐步推理，增强其逻辑推理能力，对于需要逻辑解决方案的任务非常有效，但在创造性问题解决中存在局限性。在一些研究中，如多模态大模型中，LLM 作为核心智能体可以继承包括 COT 在内的一些显著属性。同时，ReAct 框架中也提到了将 ReAct 和 COT 结合使用的方法。
2024-10-28
LLM是什么，有什么方法能够调优
LLM 即大型语言模型（Large Language Model）。以下是一些调优 LLM 的方法： 1. 改进提示：在上下文中提供基本事实，例如相关文章段落或维基百科条目，以减少模型生成虚构文本的可能性。通过降低概率参数并指示模型在不知道答案时承认（例如，“我不知道”）来配置模型以生成更少样式的响应。在提示中提供问题和答案的组合示例，其中可能知道和不知道的问题和答案。 2. 微调：采用在通用数据集上预训练的模型，复制这个模型，然后以这些学习到的权重为起点，在新的特定领域数据集上重新训练模型。但由于 LLM 规模较大，更新每个权重可能需要很长时间的训练工作，且计算成本较高，所以微调大型语言模型可能不是最佳选择。 3. 参数有效调优：这是一种创新的调优方法，旨在通过仅训练一部分参数来减少微调 LLM 的挑战。这些参数可能是现有模型参数的子集，也可以是一组全新的参数，例如向模型添加一些额外的层或额外的嵌入到提示。参数有效调整非常适合拥有“适度”数量训练数据的场景，例如数百或数千个训练示例。训练数据应以文本到文本格式构建为受监督的训练数据集，数据中的每条记录或行都应包含输入文本（即提示）。 此外，研究发现 GPT4 等 LLM 在一些简单的代数问题上存在表现局限性，例如随着 L 的增加，模型更容易犯计算错误，90％的错误是由于在合并相似项时跳过了步骤。这启发了是否有有效方法训练或微调 LLM 以实现更准确计算能力的研究问题。同时，LLM 在计数方面也存在困难，不仅在转换器架构中难以实现，而且数据集中计数示例的稀缺性也加剧了这个问题。
2024-10-24
LLM解决方案报告
以下是关于 LLM 解决方案的相关内容： 对抗性提示的防御策略：可利用 LLM 检测对抗提示并过滤，如 Armstrong 和 Gorman（2022）提出的方案，需先定义提示评估器，已准备相关笔记本供尝试。 Apple Intelligence 中智能应用的提示词：包括帮助回复邮件的提示词和总结邮件的提示词，其中 Apple 解决 LLM 幻觉问题的方式是在提示词中加“Do not hallucinate”，其效果存疑。 LLM 应用程序的新兴架构：原文地址为 https://a16z.com/2023/06/20/emergingarchitecturesforllmapplications/，发表于 2023 年 6 月 20 日。文中分享了新兴 LLM 应用程序堆栈的参考架构，此工作基于与相关人员的对话。
2024-10-21
最好的开源LLM是什么
目前开源的 LLM 有很多优秀的选择，以下为您列举一些： OPT 是表现最优秀的全开源 LLM 之一。这个拥有 1750 亿参数的模型的发布附带了代码，并在公开可用的数据集上进行了训练。 ChatGLM 是中文领域效果最好的开源底座模型之一，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持。 VisualGLM6B 是一个开源的，支持图像、中文和英文的多模态对话语言模型，语言模型基于 ChatGLM6B，具有 62 亿参数；图像部分通过训练 BLIP2Qformer 构建起视觉模型与语言模型的桥梁，整体模型共 78 亿参数。依靠来自于 CogView 数据集的 30M 高质量中文图文对，与 300M 经过筛选的英文图文对进行预训练。 ChineseLLaMAAlpaca 是在原版 LLaMA 的基础上扩充了中文词表并使用了中文数据进行二次预训练，支持本地 CPU/GPU 部署。 需要注意的是，对于“最好的开源 LLM”的评判标准因人而异，取决于具体的应用场景和需求。
2024-10-19
coze 是否可以通过LLM生成python代码运行查询excel表格信息？
在 Coze 中，可以通过以下步骤实现相关操作： 1. 进入 Coze，点击「个人空间 工作流 创建工作流」，打开创建工作流的弹窗。 2. 根据弹窗要求，自定义工作流信息，点击确认完成工作流的新建。 3. 新建后的编辑视图与功能中，左侧「选择节点」模块根据子任务需要，实际用到的有： 插件：提供一系列能力工具，拓展 Agent 的能力边界。如本案例中的思维导图、英文音频，无法通过 LLM 生成，需依赖插件实现。 大模型：调用 LLM，实现各项文本内容的生成。如本案例中的中文翻译、英文大纲、单词注释等依赖大模型节点。 代码：支持编写简单的 Python、JS 脚本，对数据进行处理。 4. 编辑面板中的开始节点、结束节点，分别对应分解子任务流程图中的原文输入和结果输出环节。 5. 按照流程图，在编辑面板中拖入对应的 LLM 大模型、插件、代码节点，即可完成工作流框架的搭建。 需要注意的是，因为前面需要对多维表格操作，所以要先在 http://open.feishu.cn 上建一个飞书机器人，并添加知识库或多维表格编辑权限，具体可参考飞书文档。
2024-10-16
我是一个大学生，LLM帮我能做什么
对于大学生来说，LLM 可以提供以下帮助： 1. 像开卷考试一样，LLM 可以帮助您获取参考资料和相关信息，例如在进行知识学习和研究时，为您提供所需的事实性知识。 2. 可以用于检测对抗提示并将其过滤掉，避免不良输出。 3. 能够为您提供写作方面的帮助，比如写论文，但需要注意这并非是道德的使用方式。同时，了解这种可能性以及其在学生中的使用情况很重要。对于接收方来说，也需要为组织可能接收到的 AI 生成内容做好准备。
2024-10-11
AIGC的底层科学原理是神经网络吗？
AIGC 的底层科学原理包含神经网络。 神经网络是一种模仿生物神经网络的结构和功能的数学模型或计算模型，用于对函数进行估计或近似。它由大量的人工神经元联结进行计算，是一种自适应系统，具备学习功能。 在 AI 领域，神经网络是一种重要的技术。深度学习就是一种参照人脑结构，包含神经网络和神经元的方法（因层数较多而称为深度）。神经网络可以用于监督学习、无监督学习、强化学习等多种学习方式。 同时，Transformer 模型的出现也对 AIGC 产生了重要影响，它完全基于自注意力机制处理序列数据，比循环神经网络更适合处理文本的长距离依赖性。
2024-10-30
kimi探索版技术原理
Kimi 探索版的技术原理如下： 工作流方面：通过工作流输出的卡片绑定和多轮输出推动剧情发展，其中相对复杂的技术实现是工作流中嵌套的图像流。但此 bot 未涉及自有 plugin、数据库、用户状态、外部系统交互等技术组件。 模型选择：选用 kimi 的 32k 模型，可选模型有 GLM4、Moonshot、MinMax 和百川，不确定作者选定此模型的具体理由，个人倾向于通义，底模决定了 bot 的能力。 历史更新：2024 年 10 月 11 日，Kimi 和智谱同时发布了深度推理的功能。相关共学课程的课件和回放已发布。此外，还有关于转变对 AI 态度的相关论述，强调将 AI 作为协作伙伴，通过对话式编程提升工作效率，解锁其创造力。
2024-10-22
. 了解射频识别技术的基本原理及常见应用。 2. 能够利用射频识别技术开展实践，了解物与物 之间近距离通信的过程。 第7课 电子标签我揭秘 7.1 乘坐火车时，人们只需拿身份证在检票机上刷一下，便能顺利通过检票 闸机，进出火车站。在这个过程中，正是 RFID 技术在发挥作用。 揭秘射频识别技术 本课将关注以下问题： 1. RFID 系统的工作流程是怎样的？ RFID 是一种物品标识和自动识别技术，本质上是一种无线通信技术， 无须与被识别物品直接接触。RFID 系统由电子标签和读卡器组成（图 7
射频识别（RFID）技术是一种物品标识和自动识别的无线通信技术，无需与被识别物品直接接触。RFID 系统由电子标签和读卡器组成。 其基本原理是：读卡器发射特定频率的无线电波，当电子标签进入有效工作区域时，产生感应电流，从而获得能量被激活，并向读卡器发送自身编码等信息，读卡器接收并解码后，将信息传送给后台系统进行处理。 常见应用包括：乘坐火车时的身份证检票，物流领域的货物追踪管理，图书馆的图书借还管理，超市的商品结算等。 在利用射频识别技术开展实践时，能够了解物与物之间近距离通信的过程。例如在物流中，货物上的电子标签与读卡器之间通过无线电波进行信息交互，实现对货物的实时监控和管理。 RFID 系统的工作流程大致为：读卡器发射无线电波，激活电子标签，电子标签向读卡器发送信息，读卡器接收并解码信息后传送给后台系统。
2024-10-21
transformer原理详解
Transformer 模型的原理主要包括以下几个方面： 1. 自注意力机制（SelfAttention Mechanism）：能够同时考虑输入序列中所有位置的信息，而非像循环神经网络或卷积神经网络那样逐个位置处理。通过该机制，模型可根据输入序列中不同位置的重要程度，动态分配注意力权重，从而更好地捕捉序列中的关系和依赖。 2. 位置编码（Positional Encoding）：由于自注意力机制不考虑输入序列的位置信息，为使模型能够区分不同位置的词语，引入位置编码。位置编码是一种特殊向量，与输入词向量相加，用于表示词语在序列中的位置信息，通常基于正弦和余弦函数计算得到固定向量，帮助模型学习位置信息的表示。 3. 多头注意力机制（MultiHead Attention）：通过引入该机制，可以并行地学习多个注意力表示，从不同的子空间中学习不同的特征表示。每个注意力头都是通过将输入序列线性变换成查询、键和值向量，并计算注意力分数，然后将多个头的输出拼接在一起得到最终的注意力表示。 4. 残差连接（Residual Connection）和层归一化（Layer Normalization）：在每个子层（SelfAttention 层和前馈神经网络层）的输入和输出之间引入残差连接，并对输出进行层归一化。残差连接可缓解梯度消失和梯度爆炸问题，使模型更易训练和优化；层归一化能加速训练过程，并提高模型的泛化能力。 5. 位置感知前馈网络（Positionwise FeedForward Networks）：在每个注意力子层之后，包含位置感知前馈网络，它是一个两层的全连接前馈神经网络，用于对注意力表示进行非线性转换和映射。位置感知前馈网络在每个位置独立计算，提高了模型的并行性和计算效率。 此外，用一个简单的例子解释其工作流程：假设要将英文句子“I am a student”翻译成中文。 1. 输入嵌入（Input Embeddings）：首先将每个单词映射为一个向量，即单词嵌入。 2. 位置编码（Positional Encodings）：给每个词位置加上位置编码，使模型知道词语的相对位置。 3. 编码器（Encoder）：输入序列的嵌入向量和位置编码相加后被送入编码器层。编码器由多个相同的层组成，每层有两个核心部分，即多头注意力机制捕捉单词间的依赖关系，前馈神经网络对 attention 的结果进行进一步编码。 4. 解码器（Decoder）：编码器的输出被送入解码器层。解码器也由多个相同层组成，每层除了编码器组件外，还有一个额外的注意力模块，对编码器的输出序列建模依赖关系。 5. 输出嵌入（Output Embeddings）：解码器最后一层的输出被映射为输出单词概率分布。 6. 生成（Generation）：基于概率分布，以贪婪或 beam search 等解码策略生成完整的输出序列。
2024-10-18
模型训练的底层原理
模型训练的底层原理如下： 对于多模态模型，以生图片环节的扩散模型（如 StableDiffusion）为例，其训练过程是先对海量带有标注文字描述的图片逐渐加满噪点，模型学习并沉淀每一步图片向量值和文字向量值的数据分布演变规律。后续输入文字后，模型根据文字转化的向量指导充满噪点的图片减噪点以生成最终图片。 大语言模型在接收到请求时，会将自然语言转化为机器可理解的向量格式。其训练过程类似于通过已知的几组值计算方程式中的参数，大语言模型的参数可能多达 1750 亿个。 大型语言模型（LLMs）的参数获取是关键，训练是一个计算量极大的过程，如 Llama2 70B 模型的训练涉及约 10TB 的互联网文本抓取，需要大量互联网资源和约 6000 个 GPU 运行约 12 天，花费约 200 万美元，将文本压缩成参数文件，这是一种有损压缩，得到的是训练文本的一种格式塔。
2024-10-15
transformer原理
Transformer 模型是一种基于注意力机制的深度学习模型，由 Vaswani 等人在论文《Attention is All You Need》中提出，用于处理序列到序列的任务，如机器翻译、文本摘要等。其原理主要包括以下几个关键点： 1. 自注意力机制：能够同时考虑输入序列中所有位置的信息，而非像循环神经网络或卷积神经网络那样逐个位置处理。通过该机制，模型可根据输入序列中不同位置的重要程度，动态分配注意力权重，从而更好地捕捉序列中的关系和依赖。 2. 位置编码：由于自注意力机制不考虑输入序列的位置信息，为使模型能够区分不同位置的词语，引入了位置编码。位置编码是一种特殊向量，与输入词向量相加，用于表示词语在序列中的位置信息，通常基于正弦和余弦函数计算得到的固定向量，帮助模型学习到位置信息的表示。 3. 多头注意力机制：通过引入多头注意力机制，可以并行地学习多个注意力表示，从不同的子空间中学习不同的特征表示。每个注意力头都是通过将输入序列线性变换成查询、键和值向量，并计算注意力分数，然后将多个头的输出拼接在一起得到最终的注意力表示。 4. 残差连接和层归一化：在每个子层（SelfAttention 层和前馈神经网络层）的输入和输出之间都引入了残差连接，并对输出进行层归一化。残差连接可缓解梯度消失和梯度爆炸问题，使模型更易训练和优化；层归一化能加速训练过程，并提高模型的泛化能力。 5. 位置感知前馈网络：在每个注意力子层之后，Transformer 模型还包含了位置感知前馈网络，它是一个两层的全连接前馈神经网络，用于对注意力表示进行非线性转换和映射。位置感知前馈网络在每个位置独立地进行计算，提高了模型的并行性和计算效率。 通过以上关键点，Transformer 模型能够有效地捕捉输入序列中的长距离依赖关系，并在各种序列到序列的任务中取得了优异的性能。 内容由 AI 大模型生成，请仔细甄别。类似问题：Transformer 是什么？
2024-10-14