BiBiGPT 并非一个常见或特定的知名概念。但 GPT 一般指“生成式预训练变换器”（Generative Pre-trained Transformer），是一种大型语言模型（LLM），也是生成式人工智能的重要框架。首个 GPT 由 OpenAI 于 2018 年推出。GPT 模型是基于 Transformer 模型的人工神经网络，在大型未标记文本数据集上进行预训练，并能够生成类似于人类自然语言的文本。截至 2023 年，大多数 LLM 都具备这些特征，并广泛被称为 GPT。而所谓的生成式预训练，其实是机器学习领域一个由来已久的概念。但是，直到 2017 年 Google 推出了 Transformer 模型，我们才见到了如 BERT（2018 年发布）和 XLNet（2019 年发布）这样的大型语言模型的诞生。这些模型都是基于预训练的转换器，但它们并不是为生成文本而设计，而是作为“仅编码器”使用。2018 年，OpenAI 发表了一篇名为《通过生成式预训练提高语言理解能力》的文章，首次介绍了基于转换器的生成式预训练模型（GPT）系统，即我们所说的“GPT-1”。
GPT是“生成式预训练变换器”（Generative Pre-trained Transformer）的缩写，是一种大型语言模型（LLM），也是生成式人工智能的重要框架。首个GPT由OpenAI于2018年推出。GPT模型是基于Transformer模型的人工神经网络，在大型未标记文本数据集上进行预训练，并能够生成类似于人类自然语言的文本。截至2023年，大多数LLM都具备这些特征，并广泛被称为GPT。而所谓的生成式预训练，其实是机器学习领域一个由来已久的概念。但是，直到2017年Google推出了Transformer模型，我们才见到了如BERT（2018年发布）和XLNet（2019年发布）这样的大型语言模型的诞生。这些模型都是基于预训练的转换器，但它们并不是为生成文本而设计，而是作为“仅编码器”使用。2018年，OpenAI发表了一篇名为《通过生成式预训练提高语言理解能力》的文章，首次介绍了基于转换器的生成式预训练模型（GPT）系统，即我们所说的“GPT-1”。
大家玩GPT应该有一段时间了，我们都知道GPT的全称是“Generative Pre-trained Transformer“，前两个词比较好理解，Transformer是个相对专业的概念。这篇文章我们就主要讲一下Transformer的工作原理。下面的内容涉及一些线性代数和概率学知识，我在具体的计算过程里面有一些解释，大家也可以用AI工具针对性学习一下相关的概念，理解起来会容易一些。
这个工具主要用于将关键词转化成链接，减少手动输入的麻烦，适用于需要频繁与网页交互的场景。比如，在某些实时聊天应用或者网页版的自动问答系统中，这个工具能大大提高操作效率。前置条件：需要您在prompt中让GPT生成能识别的关键词。比如：[[常青笔记标题]]或者**加粗字体**