Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

什么是qwen模型？

Answer

Qwen（通义千问）是由阿里巴巴推出的大模型。

Qwen 具有以下特点和成就：

  1. 是国内唯一出现在 OpenAI 视野里，可以参与国际竞争的国产大模型。
  2. 多次冲进 LMSys 榜单，得分不断提高。
  3. 开源模型累计下载量突破 1600 万，国内外有海量开发者基于其开发模型和应用，尤其在企业级方面。
  4. Qwen 2 开源，具有多种尺寸的预训练和指令调整模型，包括 Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B 和 Qwen2-72B。
  5. 除英语和中文外，还接受过另外 27 种语言的数据训练。
  6. 在大量基准评估中表现出最先进的性能，代码和数学性能显著提高，全面超越 llama3。
  7. 增大了上下文长度支持，最高达到 128K tokens（Qwen2-72B-Instruct）。
  8. 在权威模型测评榜单 OpenCompass 中，Qwen1.5-110B 已领先于文心 4.0 等一众中国闭源模型，Qwen2-72B 整体性能相比 Qwen1.5-110B 又取得大幅提升，在 MMLU、GPQA、HumanEval、GSM8K、BBH、MT-Bench、Arena Hard、LiveCodeBench 等国际权威测评中获十几项世界冠军，超过美国的 Llama3。
Content generated by AI large model, please carefully verify (powered by aily)

References

本地部署资讯问答机器人：Langchain+Ollama+RSSHub 实现 RAG

[title]本地部署资讯问答机器人：Langchain+Ollama+RSSHub实现RAGGemma：Gemma是由Google推出的轻量级模型，Google表示，“Gemma 2B和7B与其他开放式模型相比，在其规模上实现了同类最佳的性能。”本次开发，下载的是7B模型。Mistral：Mistral是由欧洲法国Mistral AI团队推出的大模型，该模型采用了分组查询注意力（GQA）以实现更快的推断速度。本次开发，下载的是7B模型。Mixtral：Mixtral也是由Mistral AI团队推出的大模型，但Mixtral是一个8*7B的MoE模型，在大多数基准测试中都优于Llama 2 70B和GPT-3.5。Qwen：Qwen（通义千问）是由阿里巴巴推出的大模型，本次开发，下载的是7B模型。万物皆可RSS巧妇难为无米之炊。不管是获取日常新闻，还是获取A股行情，都需要有稳定靠谱的数据源。大家可能第一时间会想到爬虫，但自己去搭建和维护这样一个爬虫系统还是比较麻烦的。有没有其他更好的方式呢？这就需要用到「上古神器」 RSS了！大家可能会觉得RSS已经过时了。现如今，打开手机，今日头条、微博、微信等APP时不时就会给你推送最新的资讯，日常生活工作好像没有用到RSS的场景。确实，大部分情况下，我们想要获取资讯，手机APP基本够用了。但是，如果你想针对一些特定的需求，需要从某些网站上获取最新通知或相关信息呢？比如，获取https://openai.com/blog的最新更新获取https://www.producthunt.com每天的热门产品获取https://github.com/trending每天的热门开源项目

Qwen 2开源了 模型性能超越目前所有开源模型和国内闭源模型

[title]Qwen 2开源了模型性能超越目前所有开源模型和国内闭源模型[heading1]相关参考信息可以说，Qwen是国内唯一出现在OpenAI视野里，可以参与国际竞争的国产大模型。不久前，OpenAI创始人奥特曼在X上转发了一条OpenAI研究员公布的消息，GPT-4o在测试阶段登上了Chatbot Arena（LMSys Arena）榜首位置，这个榜单是OpenAI唯一认可证明其地位的榜单，而Qwen是其中唯一上榜的国内模型。早些时候，有人做了个LMSys榜单一年动态变化视频。过去一年内，国产大模型只有Qwen多次冲进这份榜单，最早出现的是通义千问14B开源视频Qwen-14B，后来是Qwen系列的72B、110B以及通义千问闭源模型Qwen-Max，得分一个比一次高，LMSys也曾官方发推认证通义千问开源模型的实力。在顶尖模型公司的竞争中，目前为止中国模型只有通义千问真正入局，能与头部厂商一较高下。开发者用脚投票的结果，显示了Qwen系列的受欢迎程度。目前为止，Qwen系列开源模型的累计下载量突破了1600万，国内外有海量开发者都基于Qwen开发了自己的模型和应用，尤其是企业级的模型和应用。Qwen的很多忠实拥趸是海外开发者，他们时常在社交平台发表“我们为什么没有这种模型”的溢美之词（配图详见附件）。可以说，通义大模型用行动证明了开源开放的力量。七、为什么大模型的生态建设如此重要？AI大模型是全球数字技术体系的竞争，这个体系包括芯片、云计算、闭源模型、开源模型、开源生态等等。中国信息化百人会执委、阿里云副总裁安筱鹏指出，全球AI大模型竞争的制高点是AI基础大模型，因为基础大模型决定了产业智能化的天花板，商业闭环的可能性，应用生态的繁荣以及产业竞争的格局。与此同时，开源生态在整个技术体系的竞争中也有着至关重要的作用。

Qwen 2开源了 模型性能超越目前所有开源模型和国内闭源模型

5种尺寸的预训练和指令调整模型，包括Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B；（Qwen2-57B-A14B这个模型可以重点看看除英语和中文外，还接受过另外27种语言的数据训练；在大量基准评估中表现出最先进的性能；在大量基准评估中获得SOTA性能。代码和数学性能显著提高，全面超越llama3增大了上下文长度支持，最高达到128K tokens（Qwen2-72B-Instruct）。HF最新榜第一72B和7B可处理128k上下文57B-A14B可处理64k上下文0.5B和1.5B可处理32k上下文相比2月推出的通义千问Qwen1.5，Qwen2实现了整体性能的代际飞跃。在权威模型测评榜单OpenCompass中，此前开源的Qwen1.5-110B已领先于文心4.0等一众中国闭源模型。刚刚开源的Qwen2-72B，整体性能相比Qwen1.5-110B又取得了大幅提升。（图说：在上海人工智能实验室推出的OpenCompass大模型测评榜单上，此前开源的Qwen1.5-110B已领先于文心4.0等一众中国闭源模型）通义千问Qwen2系列模型大幅提升了代码、数学、推理、指令遵循、多语言理解等能力。在MMLU、GPQA、HumanEval、GSM8K、BBH、MT-Bench、Arena Hard、LiveCodeBench等国际权威测评中，Qwen2-72B获十几项世界冠军，超过美国的Llama3。（图说：Qwen2-72B在十多个权威测评中获得冠军，超过美国的Llama3-70B模型）

Others are asking
怎么调用qwen？
要调用 qwen ，有以下几种情况和步骤： 1. 调用百炼“应用”： 创建一个百炼应用，假设命名为“苏苏”。 在/root/chatgptonwechat/文件夹下，打开config.json文件。 更改"model":"qwen"，并添加"qwen_access_key_id"、"qwen_access_key_secret"、"qwen_agent_key"、"qwen_app_id"四项配置。 配置项获取可参考视频教程： 图文教程及参考配置也有提供。 注意：需要“实名认证”后，这些key才可以正常使用，如果对话出现“Access to mode denied.Please make sure you are eligible for using the model.”的报错，那说明您没有实名认证，点击去，或查看自己是否已认证。 2. 直接调用大模型： 百炼首页：https://bailian.console.aliyun.com/ 在/root/chatgptonwechat/文件夹下，打开config.json文件。 以调用“qwenmax”模型为例，需要更改"model"，和添加"dashscope_api_key"。 获取 key 可参考视频教程： 图文教程及参考配置也有提供。 注意：需要“实名认证”后，这些key才可以正常使用，如果对话出现“Access to mode denied.Please make sure you are eligible for using the model.”的报错，那说明您没有实名认证，点击去，或查看自己是否已认证。 3. 创建知识库应用并调用： 地址输入浏览器：http://这里替换为您宝塔左上角的那一串:3000/ 进入后，点击应用并创建，选择 qwen 模型。 创建知识库。点击知识库 选择 qwen Embedding 1 点击确认创建。 上传文件，等待处理，最后文本状态是“已就绪”。 回到刚刚创建的应用，关联上创建的知识库。 点击两个发布。之前第一个叫做保存。 点击新建，创建 key。创建后保存同时将 API 根地址最后加上/v1 也保存下来。 回到宝塔，打开【终端】 依次粘贴并回车：cd/root git clone https://github.com/zhayujie/chatgptonwechat cd chatgptonwechat/ pip install r requirements.txt pip install r requirementsoptional.txt 等待执行完成。 到“文件”菜单中去执行，点击文件 找到 root，进入 root 文件夹，找到 chatgptonwechat 文件夹，并进入。
2025-01-20
docker部署qwen
以下是关于 Docker 部署相关问题的综合回答： 容器编排模板： 容器编排模板是一种配置文件，用于在 Docker 中部署和管理多个容器，可一键部署复杂环境，无需手动配置细节，如配置 COW 组件与微信和极简未来平台交互。 使用 Docker 部署 COW 组件的原因： Docker 提供隔离运行环境，确保应用在任何环境稳定运行，简化安装和配置过程，保证环境一致，便于管理和维护。 配置多个前缀触发机器人回复的原因： 配置如“bot”、“@bot”等多个前缀，能确保机器人只在特定情况回复，避免群聊或私聊中频繁干扰，提高响应准确性和用户体验。 扫码登录失败的解决办法： 1. 重启 Docker 容器：在宝塔面板中找到对应容器，点击“重启”。 2. 检查网络连接：确保服务器和微信客户端能正常访问互联网。 3. 重新扫描二维码：等待容器重启后，重新扫描日志中生成的二维码。 费用相关： 使用 AI 微信聊天机器人的费用实际上不高，极简未来平台按使用量收费，对一般用户费用相对低廉，充值少量费用通常可用很长时间，且平台提供每天签到免费领积分福利，进一步降低使用成本。使用极简未来平台创建 AI 机器人的具体费用未明确给出。
2024-10-20
qwen大语言模型有视觉模式吗？
Qwen 大语言模型具有视觉模式。以下是相关信息： 有博主称 QwenVL 已迁移到 ComfyUI 中，它支持本地图像、上下文窗口多轮对话，支持 PLUS 和 MAX 双视觉模型，支持百万像素、任意规格图像，具有超强细节和文字识别能力，在开源领域表现出色，中文能力突出，目前 API 免费开放。 关于部署 Qwen 大语言模型，如在 Windows 电脑上，可点击 win+R，输入 cmd 回车；在 Mac 电脑上，按下 Command（⌘）+ Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”选择“终端”应用程序，然后复制相关命令行粘贴回车进行下载。
2024-10-11
什么是加载别人训练的qwen模型？
加载别人训练的 qwen 模型通常涉及以下步骤： 1. 对于直接调用千问的某一个大模型，如“qwenmax”模型，在 COW 中需要更改 key 和 model。在 /root/chatgptonwechat/文件夹下，打开 config.json 文件进行更改，并添加"dashscope_api_key"。获取 key 可参考视频教程或图文教程。同时，需要“实名认证”后，这些 key 才可以正常使用，若对话出现“Access to mode denied.Please make sure you are eligible for using the model.”的报错，可能是未实名认证，可点击去，或查看自己是否已认证。 2. 部署大语言模型时，如下载 qwen2:0.5b 模型，对于不同的电脑系统操作有所不同。如果是 Windows 电脑，点击 win+R，输入 cmd 点击回车；如果是 Mac 电脑，按下 Command（⌘）+ Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。之后复制相关命令行并粘贴回车，等待自动下载完成。 3. 对于 Ollama 大模型部分，为避免没下载大模型带来的报错，需要先下载 ollama，网站：网站中复制代码，然后像特定操作一样打开 ComfyUi 根目录下的 custom_nodes\\ComfyUiOllamaYN 的文件路径，在上方的路径下输入 cmd，进入到下方的命令行，右键粘贴刚才的代码，等待下载即可。
2024-10-01
怎么使用qwen2
以下是关于 Qwen2 的相关信息： 1. 性能表现：Qwen 2 开源了，其模型性能超越目前所有开源模型和国内闭源模型。在权威模型测评榜单 OpenCompass 中，此前开源的 Qwen1.5110B 已领先于文心 4.0 等一众中国闭源模型，刚开源的 Qwen272B 相比 Qwen1.5110B 整体性能大幅提升。在 MMLU、GPQA、HumanEval、GSM8K、BBH、MTBench、Arena Hard、LiveCodeBench 等国际权威测评中，Qwen272B 获十几项世界冠军，超过美国的 Llama3。 2. 训练与微调：大规模预训练后，通义千问团队对模型进行精细微调，提升了代码、数学、推理、指令遵循、多语言理解等能力，还让模型学会对齐人类价值观。微调过程遵循使训练规模化并减少人工标注的原则，探索了多种自动方法获取高质量数据，结合了有监督微调、反馈模型训练以及在线 DPO 等方法，采用在线模型合并方法减少对齐税。不久后将推出 Qwen2 的技术报告。 3. 特点：Qwen2 有 5 种尺寸的预训练和指令调整模型，包括 Qwen20.5B、Qwen21.5B、Qwen27B、Qwen257BA14B 和 Qwen272B。除英语和中文外，还接受过另外 27 种语言的数据训练，在大量基准评估中表现出最先进的性能，代码和数学性能显著提高，增大了上下文长度支持，最高达到 128K tokens（Qwen272BInstruct）。 4. 体验与下载：Qwen2 系列已上线魔搭社区 ModelScope 和阿里云百炼平台，开发者可在魔搭社区体验、下载模型，或通过阿里云百炼平台调用模型 API。同时，Qwen272binstruct 模型已上线中国大语言模型评测竞技场 Compass Arena，所有人都可以登录体验 Qwen2 的性能，或者选择 Qwen2 模型与其他大模型进行对比测评。测评地址为。Compass Arena 是由上海人工智能实验室和魔搭社区联合推出的大模型测评平台，集齐了国内主流的 20 多款大模型。 5. 开源社区影响力：Qwen 系列模型正在全球爆火，近一个月内总下载量翻倍，已突破 1600 万次。海内外开源社区已经出现了超过 1500 款基于 Qwen 二次开发的模型和应用。自今年 2 月 Qwen1.5 发布前后，就有大量开发者催更 Qwen2。6 月 7 日晚上 24 点左右 Qwen2 上线后，多个重要的开源生态伙伴火速宣布支持 Qwen2。
2024-10-01
SD模型
Stable Diffusion（SD）模型是由 Stability AI 和 LAION 等公司共同开发的生成式模型，参数量约 1B，可用于文生图、图生图、图像 inpainting、ControlNet 控制生成、图像超分等任务。 文生图任务是将文本输入到 SD 模型，经过一定迭代次数生成符合描述的图片。例如输入“天堂，巨大的，海滩”，模型生成美丽沙滩图片。 图生图任务在输入文本基础上再输入一张图片，模型根据文本提示重绘输入图片使其更符合描述，如在沙滩图片上添加“海盗船”。 输入的文本信息需通过“桥梁”CLIP Text Encoder 模型转换为机器数学信息。该模型作为 SD 模型中的前置模块，将输入文本编码生成 Text Embeddings 特征矩阵，用于控制图像生成。 目前 SD 模型使用的是中的 Text Encoder 模型，其只包含 Transformer 结构，由 12 个 CLIPEncoderLayer 模块组成，模型参数大小为 123M，输出 Text Embeddings 的维度为 77x768。 以下是相关资源获取方式： SD 模型权重：关注 Rocky 的公众号 WeThinkIn，后台回复“SD 模型”，可获得包含多种模型权重的资源链接。 SD 保姆级训练资源：关注 Rocky 的公众号 WeThinkIn，后台回复“SDTrain”，可获得包含数据处理、模型微调训练及基于 SD 的 LoRA 模型训练代码等全套资源。 Stable Diffusion 中 VAE、UNet 和 CLIP 三大模型的可视化网络结构图：关注 Rocky 的公众号 WeThinkIn，后台回复“SD 网络结构”，即可获得网络结构图资源链接。
2025-01-22
到今天，大语言模型还会产生“幻觉”吗
截至今天，大语言模型仍会产生“幻觉”。 大语言模型偶尔会根据输入输出一些荒谬或不符合事实的内容，目前各家大语言模型在该问题上的表现都不尽如人意。产生“幻觉”的原因包括： 1. 样本存在错误（Imitative Falsehoods）：如果大语言模型学习的“教材”中有错误，它也容易给出错误回答。缓解该问题的一个办法是上采样（Up Sampling）。 2. 信息过时（Outdated Factual Knowledge）：以前正确的信息现在可能过时了。 此外，大语言模型通过训练数据猜测下一个输出结果，可能因错误数据导致给出错误答案，优质数据集对其很重要。如果在其训练过程中，模型被暴露于大量知识之中，它并没有完美地记忆所见到的信息，并不十分清楚自己的知识边界，可能会尝试回答有关深奥话题的问题，并虚构听起来有道理但实际不正确的内容。 在构建应用程序时，可以使用一些技术来避免这种情况，例如要求模型先从文本中找到相关引文，然后使用引文回答问题，并将答案追溯回源文件，这通常有助于减少“幻觉”的发生。
2025-01-22
本地部署大模型
以下是关于本地部署大模型的详细步骤： 1. 部署大语言模型： 下载并安装 Ollama： 根据电脑系统，从 https://ollama.com/download 下载 Ollama。 下载完成后，双击打开，点击“Install”。 安装完成后，将 http://127.0.0.1:11434/ 复制进浏览器，若出现相关字样则表示安装完成。 下载 qwen2:0.5b 模型（若设备充足可下载更大模型）： Windows 电脑：点击 win+R，输入 cmd 点击回车。 Mac 电脑：按下 Command（⌘）+Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，选择“终端”应用程序。 复制相关命令行，粘贴进入并回车，等待自动下载完成。 2. ComfyUI ollama 本地大模型部署： 先下载 ollama 安装，安装完成后可在电脑桌面右下角或隐藏图标中找到。 下载对应的模型，选择模型并复制对应的命令。 打开命令行界面，输入对应的模型获取命令，等待下载完成。 模型下载后会保存到 D:\\ollama\\blobs 。 进行 docker 安装，安装会下载一些文件，安装后更改目录，不要放在 C 盘。 进行 Open webui 安装，输入相关命令，安装成功后回到 docker，点击会自动打开网页，第一次使用需注册账号，选择下载好的模型即可开始使用。 3. 错误解决： 端口占用问题，在 Windows 上可能出现，运行相关两条命令可解决。 4. 相关链接： comfyuiollama：https://github.com/stavsap/comfyuiollama?tab=readmeovfile Ollama：https://ollama.com/ docker：https://www.docker.com/ Open webui：https://openwebui.com/ 此外，还有一篇思路来源于视频号博主黄益贺的相关内容，作者按照其视频进行了实操并附加了一些关于 RAG 的额外知识。文中提到读完本文可以学习到如何使用 Ollama 一键部署本地大模型、通过搭建本地聊天工具了解 ChatGPT 信息流转、RAG 的概念及核心技术、通过 AnythingLLM 软件搭建完全本地化的数据库等内容。虽然大多数人不需要自己部署大模型，但期望通过本文的指导能够折腾一遍，从而做到知其然且知其所以然。
2025-01-22
大模型评分
大模型评分通常会根据不同的赛事或评估体系有所差异。 在金融行业的大模型挑战赛中，评测任务形式为给定一组参考文档和问题，要求模型按指定格式生成答案。赛事主办方会根据选手提供的回答与参考答案对比，并根据关键字段命中情况进行评分。评分公式涉及关键词命中总次数、关键词总数、小题数和得分等参数。例如在示例问题中，根据每个小题的回答正确情况计算得分，完全正确得满分 1 分，部分正确则根据命中比例计算得分。 在其他的大模型评估方面： FlagEval（天秤）大模型评测体系及开放平台，旨在建立科学、公正、开放的评测基准、方法、工具集，创新构建了“能力任务指标”三维评测框架，细粒度刻画基础模型的认知能力边界，可视化呈现评测结果。地址：https://github.com/FlagOpen/FlagEval 。 CEval 构造了一个覆盖多个学科的中文知识和推理型测试集，并给出了当前主流中文 LLM 的评测结果。地址：https://github.com/SJTULIT/ceval 。 SuperCLUElyb 是中文通用大模型匿名对战评价基准，以众包方式提供匿名、随机的对战，并发布了初步结果和基于 Elo 评级系统的排行榜。地址：https://github.com/CLUEbenchmark/SuperCLUElyb 。 斯坦福发布的大模型排行榜 AlpacaEval 支持两种模式的模型评估方式：alpaca_eval 和 alpaca_eval evaluate_from_model 。评测过程分为选择评估集并计算输出、计算 golden 输出、通过指定的自动标注器计算胜率等步骤。相对于人工标注，全自动化的 AlpacaEval 具有较低的经济成本和时间成本。
2025-01-22
有哪些能够本地部署的AI视频生成模型
以下是一些能够本地部署的 AI 视频生成模型： 1. Stable Video Diffusion 模型： 准备工作：手动下载相关内容，分别放到指定路径。 模型选择：点击下拉箭头选择不同模型版本，勾选 load Model。 视频创作：支持图生视频，图片来源可选择 Midjourney、Stable Diffusion 等生成的图片，上传到 SVD 进行视频生成，可调节左侧参数控制效果。 保存路径：生成的视频在 outputs 下。 2. LTXVideo 模型： 基于 2B 参数 DiT，能够以 768x512 分辨率生成 24 FPS 的视频，速度比观看还快。 专为 RTX 4090 等 GPU 优化，使用 bfloat16 精度，实现高效内存使用且不影响质量。 ComfyUI 现已支持该模型，用户只需下载模型文件并获取工作流即可在本地运行。 3. Sora 模型： 功能：文生视频、图生视频、视频生视频，支持多种视频定制选项，如分辨率、视频长度和视频风格；具有故事板功能，允许用户通过时间线指导视频中的多个动作；提供混音和编辑功能，包括视频混音、延伸和剪辑、创建循环视频等；还有混合功能，可将两个视频场景合并成一个新的场景。 费用和订阅套餐：对于拥有 OpenAI Plus 或 Pro 账户的用户，使用包含在现有订阅中。OpenAI Plus 订阅每月 50 次视频生成次数，OpenAI Pro 订阅无限次慢速队列生成，500 次正常速度的视频生成次数。用户可根据需要选择更高分辨率的视频生成，但可能会减少每月使用次数。发布初期，某些地区（如欧洲和英国）可能会有延迟。
2025-01-21
国内文生图模型
以下是关于国内文生图模型的相关信息： Recraft 模型：用 8 个月自研模型，包含处理数据的模型、标注工作、训练 OCR 模型、新构建的数据集等。Recraft 生成带有长文本图像的流程图解，但存在生成默认是外国面孔而非亚洲面孔且生成的亚洲人不太自然的情况，可能与数据集有关。只有少数公司真正从头训练模型，创建自己的模型困难且成本高，需要超强团队和资金。 模型能力方面： 文本编码器的能力是文生图模型语义理解能力的关键。一开始大部分模型使用 CLIP 作为文本编码器，但存在一些问题。新的模型纷纷优化文本编码器能力，如引入更大更强的 T5XXL 或结合多个特征，但开源模型在中文生图方面能力一般。 腾讯开源的 HunyuanDiT 是较可用的中文生图模型，但仍存在优化空间。 Kolors 是最近开源的给力文生图模型，改进全面，技术实力强。
2025-01-21