直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

有哪些高质量 sft 多轮对话数据集

回答

高质量的SFT（Supervised Fine-Tuning）多轮对话数据集在训练对话系统时至关重要。以下是一些公认的高质量多轮对话数据集：

1. ConvAI2 Dataset

ConvAI2数据集是基于Persona-Chat数据集构建的，用于ConvAI2挑战赛。它包含了多轮对话，且每个对话都有明确的角色和背景信息，有助于训练更具个性化的对话系统。

2. DSTC系列数据集

DSTC（Dialogue State Tracking Challenge）系列数据集是多轮对话系统研究中的经典数据集，涵盖了多种任务和领域，如任务导向对话、对话状态跟踪等。

  • DSTC2: 专注于餐馆预订任务。
  • DSTC3: 扩展了DSTC2，增加了更多的任务和对话状态。
  • DSTC6: 涉及对话行为理解和对话状态跟踪。
  • 链接: DSTC Challenge

3. MultiWOZ Dataset

MultiWOZ（Multi-Domain Wizard of Oz）是一个大规模、多领域任务导向对话数据集，涵盖了多个对话场景，如餐馆预订、酒店预订、出租车预订等。数据集中的对话是由实际用户和客服人员通过Wizard-of-Oz方法生成的，质量较高。

4. Ubuntu Dialogue Corpus

Ubuntu Dialogue Corpus是一个大规模、多轮对话数据集，基于Ubuntu的IRC日志。数据集包含技术支持对话，适用于训练技术支持和问答系统。

5. CoQA Dataset

CoQA（Conversational Question Answering）数据集用于对话式问答系统的训练。数据集中每个对话包含一个给定的文本和相关的问题-回答对。

6. Topical-Chat Dataset

Topical-Chat数据集是微软创建的，用于开发和评估开放领域对话系统。数据集包括不同主题的多轮对话，涉及科技、娱乐、体育等多个领域。

7. Persona-Chat Dataset

Persona-Chat数据集包含多轮对话，每个对话参与者都有预定义的个人信息或“persona”，旨在开发更具个性化和情感的对话系统。

总结

这些数据集覆盖了多种对话场景和任务类型，是开发高质量对话系统的重要资源。在使用这些数据集进行训练时，可以结合具体的应用场景和需求，选择合适的数据集进行SFT。

内容由 AI 大模型生成，请仔细甄别（powered by aily）

参考资料

LLM开源中文大语言模型及数据集集合

项目介绍：清洗/构造/翻译中文的ChatGPT数据，推进国内AI的发展，人人可炼优质中文Chat模型。本数据集为ChatGPT约九万个对话数据，由ShareGPT API获得（英文68000，中文11000条，其他各国语言）。项目所有数据最终将以CC0协议并入Multilingual Share GPT语料库。Guanaco地址：[https://huggingface.co/datasets/JosephusCheung/GuanacoDataset](https://huggingface.co/datasets/JosephusCheung/GuanacoDataset)数据集说明：一个使用Self-Instruct的主要包含中日英德的多语言指令微调数据集。chatgpt-corpus地址：[https://github.com/PlexPt/chatgpt-corpus](https://github.com/PlexPt/chatgpt-corpus)数据集说明：开源了由ChatGPT3.5生成的300万自问自答数据，包括多个领域，可用于用于训练大模型。SmileConv地址：[https://github.com/qiuhuachuan/smile](https://github.com/qiuhuachuan/smile)数据集说明：数据集通过ChatGPT改写真实的心理互助QA为多轮的心理健康支持多轮对话（single-turn to multi-turn inclusive language expansion via ChatGPT），该数据集含有56k个多轮对话，其对话主题、词汇和篇章语义更加丰富多样，更加符合在长程多轮对话的应用场景。

（3）ChatBot是怎么炼成的?

MOSS中文名为小苔藓，是上海复旦大学计算机系的类ChatGPT开源模型，也完整经过了SFT和PM阶段，但是PPO阶段使用了另外一种更加简单的方式。数据搜集如前文所说，对话数据的质量是调教ChatBot非常重要的因素，这里MOSS充分借助了ChatGPT的能力，协助生成instruction和conversation，如下所示用户提问instruction。人工写好符合HHH(helpfulness,harmlessness,and honesty)原则的种子问题，然后使用self-instrcution让ChatGPT进行扩展，得到更多的符合HHH的instruction多伦对话conversation。写一个prompt模板，输入由下面3部分组成，喂入ChatGPT，搜集输出结果，和输入拼接在一起，形成完整的多轮对话第一部分：介绍背景，描述是一个Human和AI的对话，让ChatGPT模拟这个对话第二部分：约束Human和AI的对话符合HHH原则第三部分：把上面经过self-instrcution生成的大量instruction作为对话初始状态经过上面的过程，就可以得到若干多伦对话conversation训练数据，将其切分为SFT和PM两部分，分别在对应的阶段使用。SFT&PM阶段训练方法跟InstructGPT和Anthropic差不多PPO阶段MOSS里首先列举了一下当得到了SFT和RM之后，如何进一步提高ChatBot表现的几种方法

LLM开源中文大语言模型及数据集集合

XrayGLM，首个会看胸部X光片的中文多模态医学大模型：地址：[https://github.com/WangRongsheng/XrayGLM](https://github.com/WangRongsheng/XrayGLM)简介：该项目为促进中文领域医学多模态大模型的研究发展，发布了XrayGLM数据集及模型，其在医学影像诊断和多轮交互对话上显示出了非凡的潜力。MeChat，中文心理健康支持对话大模型：地址：[https://github.com/qiuhuachuan/smile](https://github.com/qiuhuachuan/smile)简介：该项目开源的中文心理健康支持通用模型由ChatGLM-6B LoRA 16-bit指令微调得到。数据集通过调用gpt-3.5-turbo API扩展真实的心理互助QA为多轮的心理健康支持多轮对话，提高了通用语言大模型在心理健康支持领域的表现，更加符合在长程多轮对话的应用场景。MedicalGPT地址：[https://github.com/shibing624/MedicalGPT](https://github.com/shibing624/MedicalGPT)简介：训练医疗大模型，实现包括二次预训练、有监督微调、奖励建模、强化学习训练。发布中文医疗LoRA模型shibing624/ziya-llama-13b-medical-lora，基于Ziya-LLaMA-13B-v1模型，SFT微调了一版医疗模型，医疗问答效果有提升，发布微调后的LoRA权重。

其他人在问
sft是什么意思
“SFT”可能有多种含义。在音乐领域，它可能指某种特定的音乐风格，如“Swift”指快速和敏捷的音乐风格，常用于表现快速和敏捷的情感，如 Taylor Swift 的《Shake It Off》；“Swirling”指旋转和流动的音乐风格；“Swooning”指陶醉和倾倒的音乐风格；“Syllabic”指音节和节奏的音乐风格；“Symbiotic”指共生和互助的音乐风格。 在语音处理方面，“SFT”可能指短时傅里叶变换（Shorttime Fourier Transform，STFT）。语音通常是短时平稳信号，在进行傅里叶变换前一般要进行分帧，取音频的小片段进行短时傅里叶变换。其结果是一个复数，包括幅度和相位信息。能量频谱是振幅频谱的平方，通过对频域信号进行逆傅里叶变换可恢复时域信号。离散傅里叶变换计算复杂度高，可采用快速傅里叶变换简化。在实际应用中，对语音信号分帧加窗处理，视为短时傅里叶变换。
2024-11-17
模型微调怎么解决多轮对话容易受到上轮对话的影响问题
在解决模型微调中多轮对话容易受到上轮对话影响的问题时： 对于多轮对话，现实中常伴随指代问题，如使用“它”“他们”“我们”等代词。若仅依据原始提问检索知识片段，可能导致结果不精确或无法检索到信息。同时，对模型回复内容的限制可能影响多轮对话流畅性甚至中断。 为提升对话系统性能和用户体验，需开发提示词解决多轮对话中的指代消解问题，确保模型能在连续交流中提供准确连贯回答。但由于“指代消解”需多轮对话完成，单次交互无法达成，所以要转换测试形式，先解决“指代消解”问题再进行下一轮答复。 首先准备指代消解所需提示词，这里使用的“指代消解”提示词是用 CoT 写出的思维链，列举不同推理情景，让模型适应并推理出需消解的代词，再根据结果重新组织问题。 接着复现指代消解步骤，如进行第一轮对话，提出问题“尼罗河是什么？”，系统召回相关知识片段并回复，然后开始指代消解。 另外，聊天模型通过一串聊天对话输入并返回生成消息输出。聊天格式虽为多轮对话设计，但对单轮任务也有用。会话通过 messages 参数输入，包含不同角色和内容的消息对象数组。通常会话先有系统消息设定助手行为，再交替使用用户和助手消息。当指令涉及之前消息时，包含聊天历史记录有帮助，若超出模型限制需缩减会话。
2024-11-21
多轮对话训练中你如何训练模型掌握情感需求
在多轮对话训练中，让模型掌握情感需求可以通过以下几种方式： 1. 利用相关数据集进行训练，例如： Guanaco：地址为，是一个使用 SelfInstruct 的主要包含中日英德的多语言指令微调数据集。 chatgptcorpus：地址为，开源了由 ChatGPT3.5 生成的 300 万自问自答数据，包括多个领域，可用于训练大模型。 SmileConv：地址为，数据集通过 ChatGPT 改写真实的心理互助 QA 为多轮的心理健康支持多轮对话，含有 56k 个多轮对话，其对话主题、词汇和篇章语义更加丰富多样，更符合长程多轮对话的应用场景。 2. 在创建提示时采用结构化模式，为模型提供一些情感需求的示例，如： |输入|输出| ||| |一部制作精良且有趣的电影|积极的| |10 分钟后我睡着了|消极的| |电影还行|中性的| 然后单击页面右侧的提交按钮。该模型现在可为输入文本提供情绪。还可以保存新设计的提示。 3. 在多轮次对话中，定期总结关键信息，重申对话的目标和指令，有助于模型刷新记忆，确保准确把握对话的进展和要点。 4. 进行意图识别和分类，特别关注在单一模型或情境中处理多个小逻辑分支的情况。例如在客户服务场景中，快速确定用户提出咨询、投诉、建议等多种类型请求的意图，并分类到相应处理流程中。
2024-11-11
在车载语音多轮对话训练中你如何训练模型掌握情感需求
目前知识库中暂时没有关于在车载语音多轮对话训练中如何训练模型掌握情感需求的相关内容。但一般来说，要训练模型掌握情感需求，可以从以下几个方面考虑： 1. 数据收集：收集包含丰富情感表达的车载语音对话数据，包括不同情感状态下的语音样本和对应的文本描述。 2. 特征提取：从语音和文本数据中提取能够反映情感的特征，如语音的语调、语速、音量，文本中的词汇、句式、语义等。 3. 模型选择：选择适合处理情感分析任务的模型架构，如基于深度学习的循环神经网络（RNN）、长短时记忆网络（LSTM）或门控循环单元（GRU）等。 4. 情感标注：对收集的数据进行准确的情感标注，以便模型学习不同情感的模式。 5. 多模态融合：结合语音和文本等多模态信息，提高情感识别的准确性。 6. 优化算法：采用合适的优化算法来训练模型，调整模型的参数，以提高模型的性能。 7. 模型评估：使用合适的评估指标来评估模型在情感需求掌握方面的性能，并根据评估结果进行调整和改进。
2024-11-11
多轮对话改写
聊天模型的会话补全： 聊天模型以一串聊天对话作为输入，并返回模型生成的消息作为输出。聊天格式虽为多轮对话设计，但对单轮任务也有用。API 调用中，messages 参数是主要输入，须为消息对象数组，包含角色（“system”“user”“assistant”）和内容。会话通常先有系统消息设定助手行为，然后交替使用用户和助手消息。用户消息指示助手，助手消息存储之前响应。当用户指令涉前消息时，包含聊天历史有帮助，若会话 token 超模型限制需缩减。 RAG 提示工程中的多轮对话与指代消解： 先前讨论多关注单轮问答，现实中常需处理多轮对话，其中常产生指代问题，如用“它”“他们”等，仅依原始提问检索知识片段可能致结果不精确或无法检索，且对模型回复内容限制可能影响多轮对话流畅性甚至中断。因此需开发提示词解决指代消解问题，确保模型连续交流中回答准确连贯。由于指代消解需多轮对话完成，单次交互不行，需转换测试形式，先解决指代消解再进行下一轮答复。首先准备所需提示词，其是用 CoT 写出的思维链，列举不同推理情景让模型推理并消解代词，再依结果重新组织问题。然后复现指代消解步骤，包括进行第一轮对话（如提问“尼罗河是什么”并获回复）和开始指代消解。
2024-10-21
如何设计一个多轮对话的AI命题Agent
设计一个多轮对话的 AI 命题 Agent 可以从以下几个方面考虑： 1. 自然语言交互： 多轮对话能力：LLM 应能理解自然语言并生成连贯且与上下文相关的回复，以帮助 Agent 进行有效交流。 生成能力：LLM 要展示卓越的自然语言生成能力，生成高质量文本。 意图理解：LLMs 能够理解人类意图，但需注意模糊指令可能带来挑战。 2. 知识： 语言知识：包括词法、句法、语义学和语用学，使 Agent 能理解句子和进行对话。 常识知识：如药和伞的用途等世界常识，帮助 Agent 做出正确决策。 专业领域知识：特定领域如编程、医学等知识，对解决领域内问题至关重要。但要注意知识可能过时或错误，需通过重新训练或编辑 LLM 解决。 3. 记忆： 记忆机制：存储过去的观察、思考和行动，帮助 Agent 处理连续任务。 记忆提升策略：包括提高输入长度限制、记忆总结、用向量或数据结构压缩记忆。 记忆检索：Agent 检索记忆以访问相关信息，包括自动检索和交互式记忆对象。 4. 推理和规划： 推理：基于证据和逻辑，对解决问题、决策至关重要。 规划：组织思维、设定目标和确定实现目标的步骤。 计划制定：分解任务、制定计划，包括一次性全面分解和自适应策略。 以国内版 Coze 为例，在实际操作中： 1. 对话引擎：目前国内版暂时只支持使用“云雀大模型”作为对话引擎，其携带上下文轮数默认为 3 轮，可修改区间是 0 到 30，具体轮数根据业务需求决定。 2. 为 Bot 添加技能： 在 Bot 编排页面的“技能”区域，为 Bot 配置所需的技能。 若不懂插件，可选择区域右上角的“优化”按钮，让 AI Bot 根据提示词自动选择插件。 也可自定义添加所需插件，点击插件区域的“+”号选择加入具体插件。 如 Bot 需要获取 AI 新闻，可添加新闻搜索接口。 3. 测试 Bot：在 Bot 编排页面的“预览与调试”区域，测试 Bot 是否按预期工作，可清除对话记录以开始新的测试，确保 Bot 能理解用户输入并给出正确回应。
2024-10-21
你在设计大模型语音座舱功能，怎么设计上下文多轮对话的场景，比如否定、指代、延展等
在设计大模型语音座舱功能中的上下文多轮对话场景时，对于否定的情况，需要准确识别用户表达的否定意图，并据此调整后续的回应策略。例如，当用户说“不要这样做”，系统要理解并停止当前可能进行的相关操作。 指代方面，要能够解析用户话语中的各种指代关系，比如“那个东西”“这个方案”等，通过上下文和语境来明确其具体所指。 延展的场景设计则要鼓励用户进一步展开话题，例如当用户提到一个主题后，系统可以通过提问或提供相关信息来引导用户深入阐述，比如“能再多和我讲讲吗？”或者“那您对这方面还有其他的想法吗？”
2024-08-27
有没有可以根据我的需求，自动生成搜索高质量query的prompt
以下是为您整理的关于自动生成搜索高质量 query 的 prompt 的相关内容： 1. JackeyLiu （JK）： 作为 ChatGPT 的深度用户，为节省每次构建 Prompt 的力气，打算写一个基于初始问题自动生成优质 Prompt 的 Prompt。其构建 Prompt 的方法论来自于。 2. 做调研： 生成调研报告的 prompt 构建过程艰难，经过多次尝试和迭代，包括试用 webpolit 和 web browsing 等，最终在群里大佬的建议下，通过在需要搜索网络信息的章节处打上标签让 GPT4 自主搜索信息来生成内容，并选择使用 webpolit 插件，放弃了 web browsing 模式，完成了调研报告的 prompt。且在解决问题前，用前几版 prompt 帮团队和同学完成了 3 篇调研报告。 3. 生成式 AI：下一个消费者平台： 这种根据特定需求生成策划过的选项列表的搜索方式在产品推荐方面有价值，例如为特定的宠物推荐狗粮或特定条件下推荐服装。在企业内部搜索应用中也有巨大潜力，如允许用户查询视频会议记录。
2024-08-09
做 video lip sync 的高质量项目有哪些？
以下为一些关于 video lip sync（视频唇形同步）的高质量项目介绍： 谷歌的“Generating audio for video”项目正在开展进一步研究。该项目具有以下特点： 1. 与现有视频音频解决方案相比，它能够理解原始像素，并且添加文字提示是可选的。 2. 系统无需手动调整生成的声音和视频，避免了对声音、视觉效果和时间等不同元素进行繁琐的调整。 3. 但仍存在一些限制因素需要解决，比如音频输出质量依赖于视频输入质量，视频中的假象或失真超出模型训练分布范围会导致音频质量明显下降。 4. 正在改进涉及语音的视频唇形同步。V2A 尝试从输入的文稿生成语音并与角色的唇形动作同步，但配对的视频生成模型可能不受文稿条件的限制，这会造成不匹配，导致唇形同步不自然。 需要注意的是，这一项目仍在不断完善和改进中。
2024-07-24
为什么说“当下的人工智能技术，只有高质量输入，才能得到高质量输出？”
之所以说"当下的人工智能技术，只有高质量输入，才能得到高质量输出"，主要有以下几个原因： 1. 数据驱动的本质 现有的人工智能技术，尤其是深度学习技术，高度依赖于训练数据的质量。模型的学习能力、推理能力都来源于训练数据。如果输入的训练数据质量不佳（含噪声、偏差、覆盖面不全等），模型很难学习到有效的模式，自然也难以产出高质量的输出结果。 2. 无监督学习的局限性 目前主流的人工智能方法大多采用无监督学习的范式，通过自主发现数据中的模式和规律进行建模。这种方式对训练数据的质量要求更高，因为只有高质量数据才能真实反映潜在的知识模式。低质量数据往往会导致模型学习到错误规律。 3. 缺乏逻辑推理能力 现有人工智能系统缺乏对因果逻辑的深刻理解能力，无法对输入数据的合理性和正确性进行有效判断，从而依赖于训练数据的质量来保证输出质量。 4. 黑箱特性和可解释性不足 深度学习模型本质上是一个黑箱，我们难以判断其内在机制是否符合逻辑，也无法完全解释模型输出的依据和原因。因此只能最大程度地保证输入质量来期望获得理想输出。 5. 显式知识和常识缺失 大多数人工智能模型缺乏对现实世界的显式知识和常识理解能力，无法对输入数据中的明显错误或矛盾进行识别和纠正，从而也需要高质量的输入数据作为前提。 总的来说，当前人工智能技术在自主学习和逻辑推理能力上还有不足，更多依赖于训练数据的质量。只有保证高质量的输入，才能最大限度地利用人工智能系统的优势，获得令人满意的输出结果。这也是人工智能领域需要继续改进的重要方向之一。
2024-05-02
目前大部分的高质量的ai图片都是那些网站，是不是都要付费？
目前大部分的高质量的 AI 图片主要来自于例如 Midjourney、DALL·E 等。这些工具通常需要付费使用，但是，也有一些免费的 AI 绘画工具，但是它们的图片质量可能不如付费工具高。
2024-04-18
图生视频有什么办法生成高质量视频
有以下几种方法可以生成高质量的图生视频： 1. 使用阿里妈妈推出的 AtomoVideo 框架 AtomoVideo 可以将静态图片自动转换为高质量视频动效 采用了多项新技术，如优质数据集构建、多粒度图像注入、渐进性动作强度增加等 可与现有的文生图（T2I）模型进行兼容，生成视频保真度高 2. 使用 Runway ML Gen2 视频生成器 Runway ML Gen2 是一个多模式人工智能系统，可以从文本、图像或视频剪辑生成新颖的视频 允许用户通过文本到视频生成来创建各种风格的视频 提供高级设置来微调生成效果，如调整分辨率、插值等 3. 使用 Kaiber AI 视频生成器 Kaiber AI 可以从图像、音频或视频开始，生成高品质的视频 提供精选样式和提示模板，帮助用户获得更多灵感 易于使用，适合初学者 4. 使用 SD 社区的 I2VAdapter 插件 I2VAdapter 可以与 Stable Diffusion 等图生模型进行兼容 通过时空建模等技术，生成高质量的视频内容 为图生视频领域的创意应用开辟了新的可能性 总的来说，这些基于 AI 的图生视频技术都可以帮助用户快速生成高质量的视频内容，大大提高创作效率。
2024-04-18
与PDF对话
以下是关于与 PDF 对话的相关内容： AIGC 落地应用中，有 ChatWithPDF 官方 Pulgin 可解决 Chat GPT 无法阅读、解析 PDF 的问题，推荐指数为🌟🌟🌟🌟。还有 Voice control for ChatGPT Chrome 插件用于和 ChatGPT 语音对话，支持多种语言，可当英语口语/听力老师，但 TTS 效果生硬，期待改善，推荐指数🌟🌟🌟，下载地址： 增强的 PDF 结构识别框架（pdflux.com）应用于 ChatDOC（海外官网：chatdoc.com），它是 AI 文档阅读助手，能在数秒内总结长文档、解释复杂概念和查找关键信息，在可靠性和准确性方面居所有 ChatPDF 类产品之首。其优势包括精通表格理解、多文档对话、每个回答均可溯源至原文、支持多种文档类型。 阅读书籍、论文的互动式问答场景对应的关键词库有 15 个，如书籍、报告、文件等。ChatGPT 知识库截止于 2021 年 9 月，对于新数据或最新出版的内容无法提供答案，如有现成 PDF，建议通过 CHATDOC 网站进行互动式问答，并提供了输入信息和提出问题的步骤及模板，还有相关案例。
2024-11-13
提供“与知识库对话”的产品服务
以下是关于“与知识库对话”的产品服务相关内容： 如果想要对知识库进行更加灵活的掌控，可以使用额外的软件 AnythingLLM。其安装地址为：https://useanything.com/download 。安装完成后进入配置页面，主要分为三步：选择大模型、选择文本嵌入模型、选择向量数据库。 AnythingLLM 中有 Workspace 的概念，可创建独有的 Workspace 与其他项目数据隔离。构建本地知识库时，首先创建工作空间，然后上传文档并在工作空间中进行文本嵌入，接着选择对话模式，包括 Chat 模式（大模型根据训练数据和上传的文档数据综合给出答案）和 Query 模式（大模型仅依靠文档中的数据给出答案），最后进行测试对话。 在商业化问答场景中，以一个问答机器人界面为例，其配置包括 AI 模型、提示词和知识库。模型好比是学习过无数知识的人，提示词是告诉模型扮演的角色和专注的技能，知识库则是给模型的工作手册。例如设定 AI 模型为阿里千问模型，提示词设定角色为“美嘉”，知识库放置《爱情公寓》全季剧情。 看十遍不如实操一遍，实操十遍不如分享一遍。如果对 AI Agent 技术感兴趣，可以联系相关人员或者加入免费知识星球（备注 AGI 知识库）。
2024-11-08
提供“与知识库对话”的产品服务
以下是关于“与知识库对话”的产品服务相关内容： 如果想要对知识库进行更加灵活的掌控，需要使用额外的软件 AnythingLLM。其安装地址为：https://useanything.com/download 。安装完成后进入配置页面，主要分为三步：选择大模型、选择文本嵌入模型、选择向量数据库。 AnythingLLM 中有 Workspace 的概念，可以创建独有的 Workspace 与其他项目数据隔离。构建本地知识库时，首先创建工作空间，然后上传文档并进行文本嵌入，接着选择对话模式，包括 Chat 模式（大模型根据训练数据和上传的文档数据综合给出答案）和 Query 模式（大模型仅依靠文档中的数据给出答案），最后进行测试对话。 在商业化问答场景中，以一个问答机器人界面为例，其左侧有三处配置：AI 模型、提示词、知识库。模型可以想象成学习过无数知识的人；提示词是告诉模型扮演的角色和专注的技能；知识库则相当于给模型发放的工作手册。例如设定 AI 模型为阿里千问模型，提示词设定角色为“美嘉”，知识库为《爱情公寓》全季剧情。
2024-11-08