直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

国内能通过对话微调的语言大模型

回答

以下是国内一些能通过对话微调的语言大模型：

  • 教育领域：桃李（Taoli）
    • 地址：https://github.com/blcuicall/taoli
    • 简介：在国际中文教育领域数据上进行了额外训练的模型，基于国际中文教育教材等构建资源库和问答数据集，并利用数据进行指令微调，让模型习得将知识应用到具体场景中的能力。
  • 数学领域：chatglm-maths
    • 地址：https://github.com/yongzhuo/chatglm-maths
    • 简介：基于 chatglm-6b 微调/LORA/PPO/推理的数学题解题大模型，样本为自动生成的整数/小数加减乘除运算，可 gpu/cpu 部署，开源了训练数据集等。
  • 文化领域：Firefly
    • 地址：https://github.com/yangjianxin1/Firefly
    • 简介：中文对话式大语言模型，构造了许多与中华文化相关的数据，如对联、作诗、文言文翻译、散文、金庸小说等，以提升模型在这方面的表现。
  • 金融领域：
    • Cornucopia（聚宝盆）
      • 地址：https://github.com/jerry1993-tech/Cornucopia-LLaMA-Fin-Chinese
      • 简介：开源了经过中文金融知识指令精调/指令微调(Instruct-tuning)的 LLaMA-7B 模型。通过中文金融公开数据+爬取的金融数据构建指令数据集，并在此基础上对 LLaMA 进行了指令微调，提高了 LLaMA 在金融领域的问答效果。基于相同的数据，后期还会利用 GPT3.5 API 构建高质量的数据集，另在中文知识图谱-金融上进一步扩充高质量的指令数据集。
    • BBT-FinCUGE-Applications
    • XuanYuan（轩辕）
      • 地址：https://github.com/Duxiaoman-DI/XuanYuan
      • 简介：国内首个开源的千亿级中文对话大模型，同时也是首个针对中文金融领域优化的千亿级开源对话大模型。在 BLOOM-176B 的基础上针对中文通用领域和金融领域进行了针对性的预训练与微调，不仅可以应对通用领域的问题，也可以解答金融相关的各类问题，为用户提供准确、全面的金融信息和建议。
内容由 AI 大模型生成，请仔细甄别（powered by aily）

参考资料

02-基础通识课

[title]02-基础通识课[heading1]智能纪要[heading2]总结大语言模型的介绍与原理国内大模型的分类：国内大模型有通用模型如文心一言、讯飞星火等，处理自然语言；还有垂直模型，专注特定领域如小语种交流、临床医学、AI蛋白质结构预测等。大模型的体验：以‘为什么我爸妈结婚的时候没有邀请我参加婚礼’和‘今天我坐在凳子上’为例，体验了Kimi、通义千问、豆包等大模型的回答和续写能力，发现回复有差异，且大模型基于统计模型预测生成内容。大语言模型的工作原理：大语言模型工作原理包括训练数据、算力、模型参数，在训练数据一致情况下，模型参数越大能力越强，参数用b链形容大小。Transformer架构：Transformer是大语言模型训练架构，17年出现用于翻译，具备自我注意力机制能理解上下文和文本关联，其工作原理是单词预测，通过嵌入、位置编码、自注意力机制生成内容，模型调教中有控制输出的temperature。关于大语言模型的原理、应用及相关概念Transformer模型原理：通过不断检索和匹配来寻找依赖关系，处理词和词之间的位置组合，预测下一个词的概率，是一个偏向概率预测的统计模型。大模型幻觉：大模型通过训练数据猜测下一个输出结果，可能因错误数据导致给出错误答案，优质数据集对其很重要。Prompt的分类和法则：分为system prompt、user prompt和assistant prompt，写好prompt的法则包括清晰说明、指定角色、使用分隔符、提供样本等，核心是与模型好好沟通。Fine tuning微调：基于通用大模型，针对特定领域任务提供数据进行学习和调整，以适应特定领域的需求。RAG概念：未对RAG的具体内容进行详细阐述，仅提出了这个概念。

LLM开源中文大语言模型及数据集集合

桃李（Taoli）：地址：[https://github.com/blcuicall/taoli](https://github.com/blcuicall/taoli)简介：一个在国际中文教育领域数据上进行了额外训练的模型。项目基于目前国际中文教育领域流通的500余册国际中文教育教材与教辅书、汉语水平考试试题以及汉语学习者词典等，构建了国际中文教育资源库，构造了共计88000条的高质量国际中文教育问答数据集，并利用收集到的数据对模型进行指令微调，让模型习得将知识应用到具体场景中的能力。[heading5][heading5]数学[content]chatglm-maths：地址：[https://github.com/yongzhuo/chatglm-maths](https://github.com/yongzhuo/chatglm-maths)简介：基于chatglm-6b微调/LORA/PPO/推理的数学题解题大模型,样本为自动生成的整数/小数加减乘除运算,可gpu/cpu部署，开源了训练数据集等。[heading5][heading5]文化[content]Firefly：地址：[https://github.com/yangjianxin1/Firefly](https://github.com/yangjianxin1/Firefly)简介：中文对话式大语言模型，构造了许多与中华文化相关的数据，以提升模型这方面的表现，如对联、作诗、文言文翻译、散文、金庸小说等。

LLM开源中文大语言模型及数据集集合

Cornucopia（聚宝盆）：基于中文金融知识的LLaMA微调模型地址：[https://github.com/jerry1993-tech/Cornucopia-LLaMA-Fin-Chinese](https://github.com/jerry1993-tech/Cornucopia-LLaMA-Fin-Chinese)简介：开源了经过中文金融知识指令精调/指令微调(Instruct-tuning)的LLaMA-7B模型。通过中文金融公开数据+爬取的金融数据构建指令数据集，并在此基础上对LLaMA进行了指令微调，提高了LLaMA在金融领域的问答效果。基于相同的数据，后期还会利用GPT3.5 API构建高质量的数据集，另在中文知识图谱-金融上进一步扩充高质量的指令数据集。BBT-FinCUGE-Applications地址：[https://github.com/ssymmetry/BBT-FinCUGE-Applications](https://github.com/ssymmetry/BBT-FinCUGE-Applications)简介：开源了中文金融领域开源语料库BBT-FinCorpus，中文金融领域知识增强型预训练语言模型BBT-FinT5及中文金融领域自然语言处理评测基准CFLEB。XuanYuan（轩辕）：首个千亿级中文金融对话模型地址：[https://github.com/Duxiaoman-DI/XuanYuan](https://github.com/Duxiaoman-DI/XuanYuan)简介：轩辕是国内首个开源的千亿级中文对话大模型，同时也是首个针对中文金融领域优化的千亿级开源对话大模型。轩辕在BLOOM-176B的基础上针对中文通用领域和金融领域进行了针对性的预训练与微调，它不仅可以应对通用领域的问题，也可以解答与金融相关的各类问题，为用户提供准确、全面的金融信息和建议。

其他人在问
推荐一下国内可以通过对话微调的预训练模型
以下是为您推荐的国内可以通过对话微调的预训练模型相关信息： 为优化 Llama2 的中文能力，可使用以下数据： 网络数据：互联网上公开的网络数据，包括百科、书籍、博客、新闻、公告、小说等高质量长文本数据。 ：中文 Wikipedia 的数据。 ：中文悟道开源的 200G 数据。 ：Clue 开放的中文预训练数据，经过清洗后的高质量中文长文本数据。 竞赛数据集：近年来中文自然语言处理多任务竞赛数据集，约 150 个。 ：MNBVC 中清洗出来的部分数据集。 社区提供预训练版本 Atom7B 和基于 Atom7B 进行对话微调的模型参数供开放下载，关于模型的进展详见社区官网 https://llama.family。 另外，关于会话补全（Chat completions）： gpt3.5turbo 和 textdavinci003 两个模型能力相似，但前者价格只是后者的十分之一，在大部分情况下更推荐使用 gpt3.5turbo。 gpt3.5turbo 模型不支持微调。从 2023 年 3 月 1 日起，只能对基于 GPT3.5 的模型进行微调。有关如何使用微调模型的更多细节，请参阅微调指南。 从 2023 年 3 月 1 日起，OpenAI 会将您通过 API 发送的数据保留 30 天但不会使用这些数据来提升模型。 关于安仔：Coze 全方位入门剖析 免费打造自己的 AI Agent（国内版）： 目前国内版暂时只支持使用“云雀大模型”作为对话引擎，其携带上下文轮数默认为 3 轮，可修改区间是 0 到 30，具体轮数可根据业务需求决定。 在 Bot 编排页面的“技能”区域，可为 Bot 配置所需技能。不懂插件时，可选择区域右上角的“优化”按钮让 AI Bot 根据提示词自动选择插件。也可自定义添加所需插件，点击插件区域的“+”号选择加入具体插件。 在 Bot 编排页面的“预览与调试”区域，可测试 Bot 是否按预期工作，可清除对话记录以开始新的测试，确保 Bot 能理解用户输入并给出正确回应。
2024-10-18
推荐一下个人可以使用的通过对话微调的模型
以下是一些个人可以使用的通过对话微调的模型相关信息： 会话补全（Chat completions）： GPT3.5 系列中，gpt3.5turbo 和 textdavinci003 有相似能力，但 gpt3.5turbo 价格仅为 textdavinci003 的十分之一，在多数情况下更推荐使用 gpt3.5turbo。不过，gpt3.5turbo 不支持微调，从 2023 年 3 月 1 日起，只能对基于 GPT3.5 的模型进行微调。 微调（Finetuning）： 案例研究： 客户支持聊天机器人：通常包含相关上下文、对话摘要及最近消息，可能需要几千个示例处理不同请求和客户问题，建议审查对话样本确保代理消息质量，可使用单独文本转换微调模型生成摘要。 基于技术属性列表的产品描述：将输入数据转换为自然语言很重要，确保完成基于所提供描述，若常查阅外部内容，自动添加此类内容可提高性能，若描述基于图像，提取图像文本描述可能有帮助。 模型（Models）： GPT3.5 模型可理解和生成自然语言或代码，其中功能最强大、最具成本效益且针对聊天优化的型号是 gpt3.5turbo，建议使用它而非其他 GPT3.5 模型，因其成本更低。 gpt3.5turbo：功能强大，针对聊天优化，成本低，会使用最新模型迭代更新，最大 Token 数 4096，训练数据截至 2021 年 9 月。 gpt3.5turbo0301：2023 年 3 月 1 日的快照，不会更新，仅在 2023 年 6 月 1 日结束的三个月内提供支持，最大 Token 数 4096，训练数据截至 2021 年 9 月。 textdavinci003：能完成任何语言任务，支持文本中插入补全，最大 Token 数 4097，训练数据截至 2021 年 6 月。 textdavinci002：与 textdavinci003 类似，使用监督微调而非强化学习训练，最大 Token 数 4097，训练数据截至 2021 年 6 月。 codedavinci002：针对代码完成任务优化，最大 Token 数 8001，训练数据截至 2021 年 6 月。 请注意，OpenAI 模型具有不确定性，相同输入可能产生不同输出，将温度设置为 0 可使输出大部分具有确定性，但可能仍有少量可变性。
2024-10-18
个人使用可以通过对话微调的大模型
大模型是指输入大量语料，使计算机获得类似人类的“思考”能力，能够进行文本生成、推理问答、对话、文档摘要等工作。可以用“上学参加工作”来类比大模型的训练和使用过程： 1. 找学校：训练大模型需要大量计算，GPU 更合适，只有购买得起大量 GPU 的才有资本训练。 2. 确定教材：大模型需要的数据量特别多，几千亿序列（Token）的输入基本是标配。 3. 找老师：用合适的算法让大模型更好理解 Token 之间的关系。 4. 就业指导：为让大模型更好胜任某一行业，需要进行微调（fine tuning）指导。 5. 搬砖：完成就业指导后，进行如翻译、问答等工作，在大模型里称为推导（infer）。 在 LLM 中，Token 被视为模型处理和生成的文本单位，能代表单个字符、单词、子单词等，具体取决于分词方法。将输入分词时会数字化形成词汇表。 个人动手实验方面： macOS 系统可采用 GGML 量化后的模型。有名的项目如 ggerganov/llama.cpp:Port of Facebook's LLaMA model in C/C++ ，首先编译，利用 Metal 的 GPU 用相应命令编译，然后去下载模型，还提供了 WebUI，启动 server 后默认监听 8080 端口，打开浏览器可对话。 Whisper 与 llama 类似，用 make 命令编译，去指定地址下载量化好的模型，转换音频，目前只接受 wav 格式，可用 ffmpeg 转化。 张梦飞的教程《用聊天记录克隆自己的 AI 分身》全程本地操作，目标是把微信聊天记录导出，用其微调模型，最终接入微信替你回复消息。
2024-10-18
文生图lora微调
以下是关于文生图 lora 微调的详细内容： 定主题：明确您需要生成的图片的主题、风格和要表达的信息。 选择基础模型 Checkpoint：根据主题选择内容贴近的 checkpoint，如麦橘、墨幽的系列模型，如麦橘写实、麦橘男团、墨幽人造人等。 选择 lora：基于生成内容寻找重叠的 lora，以控制图片效果和质量，可参考广场上优秀帖子中使用的 lora。 ControlNet：可控制图片中特定图像，如人物姿态、生成特定文字或艺术化二维码等，属于高阶技能。 局部重绘：下篇再教。 设置 VAE：无脑选择 840000 即可。 Prompt 提示词：用英文写需求，使用单词和短语组合，不用管语法，单词、短语间用英文半角逗号隔开。 负向提示词 Negative Prompt：同样用英文写要避免的内容，单词和短语组合，用英文半角逗号隔开。 采样算法：一般选 DPM++ 2M Karras 较多，也可参考 checkpoint 详情页上模型作者推荐的采样器。 采样次数：选 DPM++ 2M Karras 时，采样次数通常在 30 40 之间。 尺寸：根据个人喜好和需求选择。 以下是一个简笔水彩风格插画的示例： 使用大模型“Flat 2D Animerge”，适合生成卡通动漫图片，官方建议 CFG 值在 5 或 6（使用动态阈值修复可拉到 11）。搭配两个 lora，“Chinese painting style”可增加中国画水彩风格效果，权重设为 0.4；“Crayon drawing”可添加简单线条和小孩子笔触，权重设为 0.8。将图片丢到标签器中反推关键词，发送到“文生图”。在正向提示词末尾添加这两个 lora，尺寸按参考图设置，重绘幅度开 0.5 让 AI 更自由发挥，若想更接近原图可降低数值。将图放入 ControlNet 中，选择 tile 模型，权重为 0.5，控制模式选择“更注重提示词”。
2024-10-05
AI 增量训练和模型微调的区别
AI 增量训练和模型微调存在以下区别： 目的：增量训练通常是为了持续更新模型以适应新的数据和任务，而模型微调主要是为了使模型在特定的小领域数据集上针对特定任务达到更好的性能。 范围：增量训练可能涉及对模型的较大范围的更新，而微调往往集中在较小范围的参数调整。 方式：增量训练可能会对全量的模型参数进行训练，而微调存在全量微调（FFT）和参数高效微调（PEFT）两种技术路线，PEFT 只对部分模型参数进行训练，且目前在业界较为流行。 成本和效果：从成本和效果综合考虑，PEFT 是较好的微调方案。微调可以大幅提高模型在特定任务中的性能，但可能会使模型失去一些通用性。 数据使用：增量训练可能需要更多新的数据，而微调是在较小的、特定领域的数据集上进行。 如需了解更多关于微调的内容，可参考 OpenAI 官方微调教程：https://github.com/openai/openaicookbook/blob/main/examples/How_to_finetune_chat_models.ipynb
2024-09-13
模型微调都有哪些方式？
模型微调主要有以下方式： 1. 使用微调模型：当作业成功时，`fine_tuned_model`字段将填充模型名称。您现在可以将此模型指定为我们的`Completions API`的参数，并使用`Playground`向它发出请求。在您的工作首次完成后，您的模型可能需要几分钟时间才能准备好处理请求。如果对您的模型的完成请求超时，可能是因为您的模型仍在加载中。如果发生这种情况，请在几分钟后重试。您可以通过将模型名称作为`model`完成请求的参数传递来开始发出请求，包括`OpenAI`命令行界面、`cURL`、`Python`、`Node.js`等方式。您还可以继续使用所有其他完成参数，如`temperature`、`frequency_penalty`、`presence_penalty`等对这些请求进行微调模型。 2. 介绍：微调可让您从`API`提供的模型中获得更多收益，比如比即时设计更高质量的结果、能够训练比提示中更多的例子、由于更短的提示而节省了`Token`、更低的延迟请求。`GPT3`已经在来自开放互联网的大量文本上进行了预训练。当给出仅包含几个示例的提示时，它通常可以凭直觉判断出您要执行的任务并生成合理的完成，这通常称为“小样本学习”。微调通过训练比提示中更多的示例来改进小样本学习，让您在大量任务中取得更好的结果。对模型进行微调后，您将不再需要在提示中提供示例，这样可以节省成本并实现更低延迟的请求。在高层次上，微调涉及以下步骤：准备和上传训练数据、训练新的微调模型、使用您的微调模型。 3. 通义千问团队的微调方式：大规模预训练后，通义千问团队对模型进行精细的微调，以提升其智能水平，让其表现更接近人类。这个过程进一步提升了代码、数学、推理、指令遵循、多语言理解等能力。此外，模型学会对齐人类价值观，它也随之变得更加对人类有帮助、诚实以及安全。通义千问团队的微调过程遵循的原则是使训练尽可能规模化的同时并且尽可能减少人工标注。团队探索了如何采用多种自动方法以获取高质量、可靠、有创造力的指令和偏好数据，其中包括针对数学的的方法减少对齐税。不久后，通义千问团队将推出`Qwen2`的技术报告。
2024-09-11
我的app应用想要对接大语言模型，结合APP用户自身的数据，实现更精准的对话，是否有行业比较成功的案例可以借鉴
以下是一些在 APP 应用对接大语言模型方面比较成功的案例，可供您借鉴： 1. Poe： 由 Quora 开发，有 APP 版本，支持跨端使用。 集成了 Chat GPT、GPT4、Claude+、Claude、Dragonfly 等模型，同时支持用户自建 Chatbot。 不同语言模型回复效果有差异，适合需要调用多种大语言模型的用户。 Dragonfly 擅长给出较短的回答，并擅长在输入中给出示例时遵循指示。 Claude 更擅长创造性回复，配合 Poe 中的提问引导，非常适合在查阅资料时使用。 支持分享用户和模型的对话内容，但 GPT4、Claude+产品需要付费订阅使用。 访问地址： Poe 中的提问引导真的能够启发到用户，midjourney prompt 扩写 Chatbot 能力很惊人。 2. Perplexity.ai： 本质是个可联网的搜索引擎，完全免费，支持网页版、APP（目前支持 iOS，安卓即将推出）、Chrome 插件。 网页版能力全面，能够根据提问从互联网上搜寻信息并给出总结后的答案。 很多 Chat GPT 中调用插件才能解决的事情（联网查询、旅行、住宿、商品推荐）靠 Perplexity 就可以解决。 能给出信息来源网址，并根据搜索内容给出继续对话的问题建议。 最新推出的 Copilot 能力支持根据搜索内容进行信息补充，每 4h 内使用 5 次，调用 GPT4。 支持分享聊天内容到多渠道。 首页推荐当下流行的新闻、搜索内容。 支持筛选 Academic（包含不同领域的学术研究论文）、Wolfram｜Alpha（包含数学、科学、经济学、语言学、工程学、社会科学、文化等领域的知识库）、Wikipedia（维基百科）、Youtube、Reddit（娱乐、社交和新闻网站）、News 进行搜索。 Chrome 插件可针对当前页面给出即时摘要。 访问地址：
2024-10-18
哪款AI工具适合学习英语，进行英语对话，并且可调节语速，显示文本
以下是一些适合学习英语、进行英语对话，并且可调节语速、显示文本的 AI 工具： 1. 11labs：英文效果较好，但无法使用语速、情绪调节等控件，只能通过标点符号改变语音效果。官网：https://elevenlabs.io/ 2. 出门问问的魔音工坊：可以使用情绪调节控件。 3. Duolingo：使用 AI 个性化学习体验，根据进度和错误调整练习内容，通过游戏化方式提供词汇、语法、听力和口语练习。下载应用，选择要学习的语言，按照课程指引学习。 4. Babbel：结合 AI 技术，提供个性化课程和练习，重点在于实际交流所需的语言技能。注册账户，选择语言课程，按照学习计划学习。 5. Rosetta Stone：使用动态沉浸法，通过 AI 分析学习进度，提供适合的练习和反馈。注册并选择学习语言，使用多种练习模式（听力、口语、阅读和写作）学习。 6. ChatGPT：可以用来模拟对话练习，帮助提高语言交流能力。在聊天界面选择目标语言，与 AI 进行对话练习，询问语法、词汇等问题，模拟实际交流场景。 7. Google Assistant：支持多种语言，可用来进行日常对话练习和词汇学习。设置目标语言，通过语音命令或文本输入与助手互动，练习日常用语。
2024-10-17
有哪款工具可以进行多语种对话？或者实现中文转英文和英文语音
以下是一些可以进行多语种对话或实现中文转英文和英文语音的工具： 1. 11labs：官网为 https://elevenlabs.io/ ，英文效果较好，但无法使用语速、情绪调节等控件，只能通过标点符号改变语音效果。 2. 出门问问的魔音工坊：国内工具，可使用情绪调节控件。 3. Voice control for ChatGPT Chrome 插件：用于和 ChatGPT 进行语音对话，支持多种语言，可当英语口语/听力老师使用。下载地址：https://chrome.google.com/webstore/detail/voicecontrolforchatgpt/eollffkcakegifhacjnlnegohfdlidhn?hl=zhCN 。但该工具提供的 TTS 效果较生硬。 4. VALLEX：一个开源的多语言文本到语音合成与语音克隆模型，支持多种语言（英语、中文和日语）和零样本语音克隆，具有语音情感控制和口音控制等高级功能。
2024-10-17
大模型合规
大模型的安全问题包括以下方面： 1. 对齐保障：通过对齐（指令调优），如 ChatGPT 从 GPT3 经过对齐而来，使其更好地理解人类意图，增加安全保障，确保不输出有害内容。对齐任务可拆解为监督微调及获取奖励模型和进行强化学习来调整输出分布。例如 LLAMA2 使用安全有监督微调确保安全，强化学习能让模型根据人类反馈更细粒度思考答案的安全性，面对训练分布外数据也能拒绝不当回答。 2. 数据过滤：在预训练阶段对数据进行过滤，如 baichuan2 采用此技术减少有害输出，但因数据关联性，仅靠此方法可能不够，模型仍可能从关联中学到有害内容，且面对不良信息时可能因缺少知识而处理不当。 3. 越狱问题：用户可能通过越狱（Jailbreak）使模型的对齐失效，重新回答各种问题。 大模型的特点包括： 1. 架构：分为 encoderonly、encoderdecoder、decoderonly 三类，目前熟知的 AI 助手多为 decoderonly 架构，由 transformer 衍生而来。 2. 规模：预训练数据量大，来自互联网的多种来源，且参数众多，如 GPT3 已达 170B 的参数。 GPT3 与 ChatGPT 相比，除形式不同外，安全性也有差别。
2024-10-18
大模型安全相关资料
以下是关于大模型安全的相关资料： 大模型的架构：包括 encoderonly、encoderdecoder 和 decoderonly 三种类型。其中，我们熟知的 AI 助手基本采用 decoderonly 架构，这些架构都是由谷歌 2017 年发布的“attention is all you need”论文中提出的 transformer 衍生而来。 大模型的特点：预训练数据量大，往往来自互联网上的论文、代码、公开网页等，通常用 TB 级别的数据进行预训练；参数非常多，如 Open 在 2020 年发布的 GPT3 就已达到 170B 的参数。 大模型的安全性保障：通过对齐（指令调优），包括监督微调、获取 reward model 与进行强化学习来调整语言模型的输出分布，以保证语言模型不会输出有害内容和信息。例如 LLAMA2 专门使用了安全有监督微调确保安全。但 Alignment 并不足以防护所有安全问题，存在越狱（Jailbreak）现象，会使模型对齐失效。此外，还有隐私问题。 相关资源：如果想进一步了解大语言模型安全，可以访问 Github awesomellmsafety 项目：https://github.com/ydyjya/AwesomeLLMSafety
2024-10-18
我该如何利用文心一言、kimi等已有的大语言模型去作个性化训练？
已有的大语言模型如文心一言、kimi 等通常不支持个人进行个性化训练。 大语言模型的相关知识包括： 国内大模型有通用模型如文心一言、讯飞星火等，处理自然语言；还有垂直模型，专注特定领域。 大语言模型工作原理包括训练数据、算力、模型参数，在训练数据一致情况下，模型参数越大能力越强。 Transformer 是大语言模型训练架构，具备自我注意力机制能理解上下文和文本关联。 大模型可能因错误数据导致给出错误答案，优质数据集对其很重要。 Prompt 分为 system prompt、user prompt 和 assistant prompt，写好 prompt 的法则包括清晰说明、指定角色、使用分隔符、提供样本等。 Fine tuning 是基于通用大模型，针对特定领域任务提供数据进行学习和调整，以适应特定领域的需求。 学习大型语言模型（LLM）的开发是一个系统性的过程，需要涵盖多个方面的知识和技能： 掌握深度学习和自然语言处理基础，包括机器学习、深度学习、神经网络等基础理论，以及自然语言处理基础，如词向量、序列模型、注意力机制等。 理解 Transformer 和 BERT 等模型原理，掌握相关论文。 学习 LLM 模型训练和微调，包括大规模文本语料预处理，使用预训练框架，以及微调 LLM 模型进行特定任务迁移。 掌握 LLM 模型优化和部署，包括模型压缩、蒸馏、并行等优化技术，模型评估和可解释性，以及模型服务化、在线推理、多语言支持等。 进行 LLM 工程实践和案例学习，结合行业场景，进行个性化的 LLM 训练，分析和优化具体 LLM 工程案例，研究 LLM 新模型、新方法的最新进展。 持续跟踪前沿发展动态。 机器学习是人工智能的一个子领域，深度学习是机器学习的一个子领域，大语言模型是深度学习在自然语言处理领域的应用之一，具有生成式 AI 的特点。
2024-10-18
请推荐一些国内免费可以调教的语言大模型
以下是一些国内免费可以调教的语言大模型： 1. Aquila：由智源研究院发布，在技术上继承了 GPT3、LLaMA 等的架构设计优点，替换了一批更高效的底层算子实现、重新设计实现了中英双语的 tokenizer，升级了 BMTrain 并行训练方法，是在中英文高质量语料基础上从 0 开始训练的，通过数据质量的控制、多种训练的优化方法，实现在更小的数据集、更短的训练时间，获得比其它开源模型更优的性能。也是首个支持中英双语知识、支持商用许可协议、符合国内数据合规需要的大规模开源语言模型。地址： 2. baichuan7B：由百川智能开发的一个开源可商用的大规模预训练语言模型。基于 Transformer 结构，在大约 1.2 万亿 tokens 上训练的 70 亿参数模型，支持中英双语，上下文窗口长度为 4096。在标准的中文和英文权威 benchmark（CEVAL/MMLU）上均取得同尺寸最好的效果。地址： 3. Anima：由艾写科技开发的一个开源的基于 QLoRA 的 33B 中文大语言模型，该模型基于 QLoRA 的 Guanaco 33B 模型使用 ChineseVicuna 项目开放的训练数据集 guanaco_belle_merge_v1.0 进行 finetune 训练了 10000 个 step，基于 Elo rating tournament 评估效果较好。地址：
2024-10-16
大语言模型发展历程
大语言模型的发展历程如下： 2017 年，发布了《Attention Is All You Need》论文，为后续发展奠定基础。 2018 年，Google 提出 BERT（Bidirectional Encoder Representations from Transformers），其创新性地采用双向预训练并行获取上下文语义信息，以及掩码语言建模（MLM）以更好地推断语义信息，参数规模在 110M 到 340M 之间。 2018 年，OpenAI 提出 GPT（Generative Pretrained Transformer），开创了仅使用自回归语言建模作为预训练目标而无需额外监督信号的方式，展示了强大的语言生成能力，参数规模达 1750 亿。 2021 年，Meta 提出 Large LAnguage Model Approach（LLAMA），这是首个开源模型，为构建更大规模、更通用的语言模型提供了方法与工具，参数规模在十亿到千亿之间。 此外，OpenAI 的 GPT3.5 是其大语言模型 GPT 系列中多年来最完善的一次迭代，并通过 ChatGPT 成功推向大众，在短时间内实现了用户的快速增长。 在语言模型的发展中，20 世纪 80 年代发明了递归神经网络（RNN）处理单词序列，但存在训练速度慢和遗忘问题。1997 年发明的长短期记忆（LSTM）网络解决了部分问题，但语言能力有限。 2020 年中期，Lewis 等人提出检索增强生成（RAG），它将外部数据检索整合到生成过程中，提高了模型提供准确和相关回答的能力。RAG 的演进轨迹在四个不同阶段展开，2017 年的创始阶段主要重点是通过预训练模型（PTM）来吸收额外的知识以增强语言模型。
2024-10-15
我是一个大学生，大语言模型帮我能做什么
大语言模型对大学生有以下帮助： 1. 模拟故事情景代入角色：通过心智理论推理出每个角色的知识和信念，得出可能的回答，有助于小说家写出更丰富的人物心理和精彩对话，设计更灵活逼真的情节细节。 2. 理解模型中的 Encoder：Encoder 是模型的编码器部分，负责对输入的文本序列进行编码，获取其对应的语义表示。具有词嵌入、位置编码、注意力机制、层叠编码、上下文建模等关键作用，是大型语言模型的核心部件，对于提取和建模输入序列的语义信息至关重要。 3. 转换类应用：擅长将输入转换为不同格式，如语言翻译、拼写和语法矫正、格式转换等，使转换过程更简单高效，提供更好的文本相关应用体验。例如可以将英文文本翻译成西班牙语，识别文本所属语言等。
2024-10-11
qwen大语言模型有视觉模式吗？
Qwen 大语言模型具有视觉模式。以下是相关信息： 有博主称 QwenVL 已迁移到 ComfyUI 中，它支持本地图像、上下文窗口多轮对话，支持 PLUS 和 MAX 双视觉模型，支持百万像素、任意规格图像，具有超强细节和文字识别能力，在开源领域表现出色，中文能力突出，目前 API 免费开放。 关于部署 Qwen 大语言模型，如在 Windows 电脑上，可点击 win+R，输入 cmd 回车；在 Mac 电脑上，按下 Command（⌘）+ Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”选择“终端”应用程序，然后复制相关命令行粘贴回车进行下载。
2024-10-11