直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

怎么使用qwen2

回答

以下是关于 Qwen2 的相关信息:

  1. 性能表现:Qwen 2 开源了,其模型性能超越目前所有开源模型和国内闭源模型。在权威模型测评榜单 OpenCompass 中,此前开源的 Qwen1.5-110B 已领先于文心 4.0 等一众中国闭源模型,刚开源的 Qwen2-72B 相比 Qwen1.5-110B 整体性能大幅提升。在 MMLU、GPQA、HumanEval、GSM8K、BBH、MT-Bench、Arena Hard、LiveCodeBench 等国际权威测评中,Qwen2-72B 获十几项世界冠军,超过美国的 Llama3。
  2. 训练与微调:大规模预训练后,通义千问团队对模型进行精细微调,提升了代码、数学、推理、指令遵循、多语言理解等能力,还让模型学会对齐人类价值观。微调过程遵循使训练规模化并减少人工标注的原则,探索了多种自动方法获取高质量数据,结合了有监督微调、反馈模型训练以及在线 DPO 等方法,采用在线模型合并方法减少对齐税。不久后将推出 Qwen2 的技术报告。
  3. 特点:Qwen2 有 5 种尺寸的预训练和指令调整模型,包括 Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B 和 Qwen2-72B。除英语和中文外,还接受过另外 27 种语言的数据训练,在大量基准评估中表现出最先进的性能,代码和数学性能显著提高,增大了上下文长度支持,最高达到 128K tokens(Qwen2-72B-Instruct)。
  4. 体验与下载:Qwen2 系列已上线魔搭社区 ModelScope 和阿里云百炼平台,开发者可在魔搭社区体验、下载模型,或通过阿里云百炼平台调用模型 API。同时,Qwen2-72b-instruct 模型已上线中国大语言模型评测竞技场 Compass Arena,所有人都可以登录体验 Qwen2 的性能,或者选择 Qwen2 模型与其他大模型进行对比测评。测评地址为[https://opencompass.org.cn/arena]。Compass Arena 是由上海人工智能实验室和魔搭社区联合推出的大模型测评平台,集齐了国内主流的 20 多款大模型。
  5. 开源社区影响力:Qwen 系列模型正在全球爆火,近一个月内总下载量翻倍,已突破 1600 万次。海内外开源社区已经出现了超过 1500 款基于 Qwen 二次开发的模型和应用。自今年 2 月 Qwen1.5 发布前后,就有大量开发者催更 Qwen2。6 月 7 日晚上 24 点左右 Qwen2 上线后,多个重要的开源生态伙伴火速宣布支持 Qwen2。
内容由 AI 大模型生成,请仔细甄别(powered by aily)

参考资料

Qwen 2开源了 模型性能超越目前所有开源模型和国内闭源模型

[title]Qwen 2开源了模型性能超越目前所有开源模型和国内闭源模型[heading1]相关参考信息玉宝搞过一个LLM的在线评估,里面可以看到国内各个闭源大模型的HUMANEVAL测评得分,可以和QWEN2对比https://www.llmrank.cn/2023年8月起,通义千问密集推出Qwen、Qwen1.5、Qwen2三代开源模型,实现了全尺寸、全模态开源。不到一年时间,通义开源大模型性能不断突破,Qwen系列的72B、110B模型多次登顶HuggingFace的Open LLM Leaderboard开源模型榜单。(图说:HuggingFace的开源大模型排行榜Open LLM Leaderboard是目前大模型领域最具权威性的榜单,收录了全球上百个开源大模型的性能测试结果,Qwen-72B和Qwen1.5-110B都曾登顶这一榜单)二、在哪里可以体验Qwen2系列模型?Qwen2系列已上线魔搭社区ModelScope和阿里云百炼平台,开发者可在魔搭社区体验、下载模型,或通过阿里云百炼平台调用模型API。同时,Qwen2-72b-instruct模型已经上线中国大语言模型评测竞技场Compass Arena,所有人都可以登录体验Qwen2的性能,或者选择Qwen2模型与其他大模型进行对比测评。测评地址([https://opencompass.org.cn/arena](https://opencompass.org.cn/arena))。Compass Arena是由上海人工智能实验室和魔搭社区联合推出的大模型测评平台,集齐了国内主流的20多款大模型,包括阿里通义千问、百度文心一言、腾讯混元、讯飞星火、字节跳动豆包、智谱AI、百川智能、零一万物、月之暗面等等,用户可在平台选择大模型的两两“对战”,实名或匿名对战皆可。

Qwen 2开源了 模型性能超越目前所有开源模型和国内闭源模型

[title]Qwen 2开源了模型性能超越目前所有开源模型和国内闭源模型[heading1]相关参考信息大规模预训练后,通义千问团队对模型进行精细的微调,以提升其智能水平,让其表现更接近人类。这个过程进一步提升了代码、数学、推理、指令遵循、多语言理解等能力。此外,模型学会对齐人类价值观,它也随之变得更加对人类有帮助、诚实以及安全。通义千问团队的微调过程遵循的原则是使训练尽可能规模化的同时并且尽可能减少人工标注。团队探索了如何采用多种自动方法以获取高质量、可靠、有创造力的指令和偏好数据,其中包括针对数学的[拒绝采样](https://arxiv.org/pdf/2308.01825)、针对代码和指令遵循的代码执行反馈、针对创意写作的回译、针对角色扮演的[scalable oversight](https://arxiv.org/pdf/2401.12474)、等等。在训练方面,团队结合了有监督微调、反馈模型训练以及在线DPO等方法。还采用了[在线模型合并](https://arxiv.org/pdf/2405.17931)的方法减少对齐税。这些做法都大幅提升了模型的基础能力以及模型的智能水平。不久后,通义千问团队将推出Qwen2的技术报告。四、Qwen2系列模型在开源社区的影响力怎么样?Qwen系列模型正在全球爆火,近一个月内总下载量翻倍,已突破1600万次。海内外开源社区已经出现了超过1500款基于Qwen二次开发的模型和应用。事实上,自今年2月Qwen1.5发布前后,就有大量开发者催更Qwen2(附件:海外开发者催更)。6月7日晚上24点左右Qwen2上线后,多个重要的开源生态伙伴火速宣布支持Qwen2,包括TensorRT-LLM、OpenVINO、OpenCompass、XTuner、LLaMA-Factory、Firefly、OpenBuddy、vLLM、Ollama等。

Qwen 2开源了 模型性能超越目前所有开源模型和国内闭源模型

5种尺寸的预训练和指令调整模型,包括Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B;(Qwen2-57B-A14B这个模型可以重点看看除英语和中文外,还接受过另外27种语言的数据训练;在大量基准评估中表现出最先进的性能;在大量基准评估中获得SOTA性能。代码和数学性能显著提高,全面超越llama3增大了上下文长度支持,最高达到128K tokens(Qwen2-72B-Instruct)。HF最新榜第一72B和7B可处理128k上下文57B-A14B可处理64k上下文0.5B和1.5B可处理32k上下文相比2月推出的通义千问Qwen1.5,Qwen2实现了整体性能的代际飞跃。在权威模型测评榜单OpenCompass中,此前开源的Qwen1.5-110B已领先于文心4.0等一众中国闭源模型。刚刚开源的Qwen2-72B,整体性能相比Qwen1.5-110B又取得了大幅提升。(图说:在上海人工智能实验室推出的OpenCompass大模型测评榜单上,此前开源的Qwen1.5-110B已领先于文心4.0等一众中国闭源模型)通义千问Qwen2系列模型大幅提升了代码、数学、推理、指令遵循、多语言理解等能力。在MMLU、GPQA、HumanEval、GSM8K、BBH、MT-Bench、Arena Hard、LiveCodeBench等国际权威测评中,Qwen2-72B获十几项世界冠军,超过美国的Llama3。(图说:Qwen2-72B在十多个权威测评中获得冠军,超过美国的Llama3-70B模型)

其他人在问
推荐一下个人可以使用的通过对话微调的模型
以下是一些个人可以使用的通过对话微调的模型相关信息: 会话补全(Chat completions): GPT3.5 系列中,gpt3.5turbo 和 textdavinci003 有相似能力,但 gpt3.5turbo 价格仅为 textdavinci003 的十分之一,在多数情况下更推荐使用 gpt3.5turbo。不过,gpt3.5turbo 不支持微调,从 2023 年 3 月 1 日起,只能对基于 GPT3.5 的模型进行微调。 微调(Finetuning): 案例研究: 客户支持聊天机器人:通常包含相关上下文、对话摘要及最近消息,可能需要几千个示例处理不同请求和客户问题,建议审查对话样本确保代理消息质量,可使用单独文本转换微调模型生成摘要。 基于技术属性列表的产品描述:将输入数据转换为自然语言很重要,确保完成基于所提供描述,若常查阅外部内容,自动添加此类内容可提高性能,若描述基于图像,提取图像文本描述可能有帮助。 模型(Models): GPT3.5 模型可理解和生成自然语言或代码,其中功能最强大、最具成本效益且针对聊天优化的型号是 gpt3.5turbo,建议使用它而非其他 GPT3.5 模型,因其成本更低。 gpt3.5turbo:功能强大,针对聊天优化,成本低,会使用最新模型迭代更新,最大 Token 数 4096,训练数据截至 2021 年 9 月。 gpt3.5turbo0301:2023 年 3 月 1 日的快照,不会更新,仅在 2023 年 6 月 1 日结束的三个月内提供支持,最大 Token 数 4096,训练数据截至 2021 年 9 月。 textdavinci003:能完成任何语言任务,支持文本中插入补全,最大 Token 数 4097,训练数据截至 2021 年 6 月。 textdavinci002:与 textdavinci003 类似,使用监督微调而非强化学习训练,最大 Token 数 4097,训练数据截至 2021 年 6 月。 codedavinci002:针对代码完成任务优化,最大 Token 数 8001,训练数据截至 2021 年 6 月。 请注意,OpenAI 模型具有不确定性,相同输入可能产生不同输出,将温度设置为 0 可使输出大部分具有确定性,但可能仍有少量可变性。
2024-10-18
个人使用可以通过对话微调的大模型
大模型是指输入大量语料,使计算机获得类似人类的“思考”能力,能够进行文本生成、推理问答、对话、文档摘要等工作。可以用“上学参加工作”来类比大模型的训练和使用过程: 1. 找学校:训练大模型需要大量计算,GPU 更合适,只有购买得起大量 GPU 的才有资本训练。 2. 确定教材:大模型需要的数据量特别多,几千亿序列(Token)的输入基本是标配。 3. 找老师:用合适的算法让大模型更好理解 Token 之间的关系。 4. 就业指导:为让大模型更好胜任某一行业,需要进行微调(fine tuning)指导。 5. 搬砖:完成就业指导后,进行如翻译、问答等工作,在大模型里称为推导(infer)。 在 LLM 中,Token 被视为模型处理和生成的文本单位,能代表单个字符、单词、子单词等,具体取决于分词方法。将输入分词时会数字化形成词汇表。 个人动手实验方面: macOS 系统可采用 GGML 量化后的模型。有名的项目如 ggerganov/llama.cpp:Port of Facebook's LLaMA model in C/C++ ,首先编译,利用 Metal 的 GPU 用相应命令编译,然后去下载模型,还提供了 WebUI,启动 server 后默认监听 8080 端口,打开浏览器可对话。 Whisper 与 llama 类似,用 make 命令编译,去指定地址下载量化好的模型,转换音频,目前只接受 wav 格式,可用 ffmpeg 转化。 张梦飞的教程《用聊天记录克隆自己的 AI 分身》全程本地操作,目标是把微信聊天记录导出,用其微调模型,最终接入微信替你回复消息。
2024-10-18
如何使用AI协助短视频文案生成?
以下是使用 AI 协助短视频文案生成的方法: 1. 利用 ChatGPT 生成短视频选题文案:表明身份,描述需求,提出回答要求,可参考美妆行业的例子。 2. 用 ChatGPT 生产短视频文案:将需求与框架结合,让 ChatGPT 为您生成。 3. 生成虚拟数字人短视频: 第一步:打开网站(需科学上网),如 https://studio.did.com/editor 。 第二步:在右侧文字框输入从 ChatGPT 产生的内容,选择想要的头像、不同的国家和声音,然后点击右上角的 Create Video ,等待生成。 生成好数字人视频后,结合产品做讲解即可发布用于视频带货。 4. 通过 ChatGPT 生成文案,将其复制到支持 AI 文字转视频的工具内,实现短视频自动生成。如腾讯智影的数字人播报功能、手机版剪映的图文成片功能。 5. 前期利用 ChatGPT 生成文案,包括: 生产视频脚本:把选题告诉 ChatGPT,它能生成包括具体场景和转场画面的完整视频脚本。 筛选 BGM:告诉 ChatGPT 视频的情绪,它能为您筛选背景音乐。
2024-10-18
帮我推荐一些国内能使用的以图生图的AI吧
目前国内能使用的以图生图的 AI 主要有以下几种: 1. Artguru AI Art Generator:这是一个在线平台,能够生成逼真图像,为设计师提供灵感,丰富创作过程。 2. Retrato:一种 AI 工具,可以将图片转换为非凡肖像,拥有 500 多种风格选择,适合制作个性头像。 3. Stable Diffusion Reimagine:新型 AI 工具,通过稳定扩散算法生成精细、具有细节的全新视觉作品。 4. Barbie Selfie Generator:专为喜欢梦幻童话风格的人设计的 AI 工具,能将上传的照片转换为芭比风格,效果出色。 此外,国外的 Leonardo 也是一款不错的文生图 AI 应用。它支持用户上传自己 DIY 的模型,尤其是 Lora 模型,为用户提供了丰富的模型选择,能够生成非常高质量的图片。但需要注意的是,Leonardo 存在访问限制的问题。
2024-10-18
怎样使用AI工具来做PPT
以下是使用 AI 工具制作 PPT 的相关内容: 卓 sir 分享了自己使用 AI 工具完成 PPT 作业的经历,他用到的 AI 工具包括 GPT4、WPS AI 和 chatPPT。 市场上好用的 AI PPT 工具包括: 1. Gamma:在线 PPT 制作网站,可通过输入文本和想法提示快速生成幻灯片,支持嵌入多媒体格式。 2. 美图 AI PPT:通过输入简单文本描述生成专业 PPT 设计,有丰富模板库和设计元素。 3. Mindshow:AI 驱动的 PPT 辅助工具,提供智能设计功能,如自动布局、图像选择和文本优化等。 4. 讯飞智文:科大讯飞推出的 AI 辅助文档编辑工具,利用语音识别和自然语言处理技术,提供智能文本生成等功能。 熊猫 Jay 介绍了使用 AI 工具生成 PPT 的思路和指南,提到了市面上受欢迎的 5 款 AI PPT 工具:MindShow、爱设计、闪击、Process ON、WPS AI。 您可以根据自己的需求和使用习惯选择适合的 AI 工具来制作 PPT。
2024-10-18
如何使用ai去写软件需求设计文档,需要用到哪些工具
使用 AI 写软件需求设计文档可以参考以下步骤和工具: 1. 明确需求和目标:清晰界定软件的功能、性能、用户界面等方面的要求。 2. 收集相关信息:利用 AI 工具如学术搜索引擎、文献管理软件等搜集类似软件的需求文档和相关资料。 3. 分析总结信息:借助 AI 文本分析工具提取关键要点和主要观点。 4. 生成大纲:使用 AI 写作助手构建需求文档的大纲,涵盖引言、功能需求、非功能需求、界面设计等部分。 5. 撰写各部分内容:利用 AI 写作工具撰写需求文档的各个部分,并进行语法和风格检查。 6. 审阅和修改:通过 AI 审阅工具检查文档的逻辑性、一致性和准确性,并根据反馈进行修改。 7. 提交前检查:使用 AI 抄袭检测工具确保文档的原创性,并做最后的格式调整。 以下是一些可用于写软件需求设计文档的工具: ChatPRD、WriteMyPRD、Uizard、tldraw 等。 需要注意的是,AI 工具只是辅助,不能完全替代您的专业判断和思考,要确保文档的质量和准确性。
2024-10-17