Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

如何用大模型做mv

Answer

要用大模型做 MV，您可以按照以下步骤进行：

  1. 模型下载：
  2. 模型安装：
    • 下载模型后放置在指定目录：
      • 大模型（Ckpt）：放入 models\Stable-diffusion
      • VAE 模型：一些大模型需要配合 vae 使用，对应的 vae 放置在 models\Stable-diffusion 或 models\VAE 目录，然后在 webui 的设置栏目选择。
      • Lora/LoHA/LoCon 模型：放入 extensions\sd-webui-additional-networks\models\lora，也可以在 models/Lora 目录
      • Embedding 模型：放入 embeddings 目录
    • 若不知道下载的模型类型，可使用秋叶的模型解析工具 https://spell.novelai.dev/，将模型拖动到空白处查看模型信息。
    • 不会科学上网的，也可在启动器界面直接下载模型，大模型放在根目录的【……\models\Stable-diffusion】文件夹，VAE 放在根目录的【……\models\VAE】文件夹，Embedding 放在根目录下的 embeddings 文件夹。
Content generated by AI large model, please carefully verify (powered by aily)

References

SD新手：入门图文教程

模型能够有效地控制生成的画风和内容。常用的模型网站有：[Civitai | Stable Diffusion models,embeddings,hypernetworks and more](https://link.zhihu.com/?target=https%3A//civitai.com/)>[Models - Hugging Face](https://link.zhihu.com/?target=https%3A//huggingface.co/models)>[SD - WebUI资源站](https://link.zhihu.com/?target=https%3A//www.123114514.xyz/models/ckpt)>[元素法典AI模型收集站- AI绘图指南wiki(aiguidebook.top)](https://link.zhihu.com/?target=https%3A//aiguidebook.top/index.php/model/)>[AI绘画模型博物馆(subrecovery.top)](https://link.zhihu.com/?target=https%3A//aimodel.subrecovery.top/)[heading3]模型安装[content]下载模型后需要将之放置在指定的目录下，请注意，不同类型的模型应该拖放到不同的目录下。模型的类型可以通过[Stable Diffusion法术解析](https://link.zhihu.com/?target=https%3A//spell.novelai.dev/)检测。大模型（Ckpt）：放入models\Stable-diffusionVAE模型：一些大模型需要配合vae使用，对应的vae同样放置在models\Stable-diffusion或models\VAE目录，然后在webui的设置栏目选择。Lora/LoHA/LoCon模型：放入extensions\sd-webui-additional-networks\models\lora，也可以在models/Lora目录Embedding模型：放入embeddings目录

教程：超详细的Stable Diffusion教程

除了链接里面给大家分享的模型，大家肯定还想去找更多更好看的模型而大多数的模型都是在Civitai（C站）这个网站里面https://civitai.com/现在就给大家说一下C站的使用方法：01.科学上网这个没法教，大家只能自己想办法了02.点击右上角的筛选按钮，在框框里面找到自己需要的模型类型Checkpoint=大模型LoRA=Lora常用的就是这两个03.看照片，看到感兴趣的就点进去点击右边的“Download”，也就是下载，保存到电脑本地，文件保存到哪里在这一节的第二部分另外，我们还可以点击左上角的“Images”这里就是看别人已经做好的图片，找到喜欢的点进去点进去之后的页面我们就可以看到这张图的全部信息，直接点击Lora和大模型，可以直接跳转到下载页面下面的就是照片关键词和其他信息点击最下面的“Copy...Data”就可以复制图片的所有信息回到SD，粘贴到关键词的文本框，点击右边的按钮这些信息就会自动分配要注意的就是，大模型是需要我们手动去换的！这样我们就可以生成出跟大神几乎一样的照片了！（电脑网络配置的不同，出来的照片有细微差别）[heading2]2.模型下载到哪里[content]这里大家就直接看我文件的保存地址，找到自己电脑里的01.大模型这里的SD根目录就是大家在下载时，存放SD的那个文件夹02.Lora03.VAE[heading2]3.如何分辨模型[content]如果我们下载了一个模型，但不知道它是哪个类型的，不知道要放到哪个文件夹我们就可以用到这个秋叶的模型解析工具https://spell.novelai.dev/把模型拖动到空白处接着就会自动弹出模型的信息在模型种类里面就可以看到是什么模型啦！

【SD】软件原理傻瓜级理解

如果不会科学上网，也可以去启动器的界面直接下载模型，当然这里是看不见预览图的，但从名字你可能看不出这个模型是什么风格。将下载的大模型放在根目录的这个文件夹下【……\models\Stable-diffusion】，我们就可以在左上角的模型列表中进行选择了。（看不到就点旁边的蓝色按钮刷新一下）。旁边这个VAE，相当于是给模型增加一个提高饱和度的滤镜和一些局部上的细节微调。当然有的大模型本身就自带VAE，所以就不用再加了。VAE可以直接在启动器里面下载，下载的VAE放在根目录的这个文件夹下【……\models\VAE】。接下来要理解的一个概念是Embedding，这个功能相当于是一个提示词打包的功能。比如你想画一个娜美的人物形象，但是想要固定一个人物形象往往要几十条什么上百条提示词，比如性别、头发、脸型、眼睛、身材等等一大堆精确指向的词汇。那这个时候，就有人将这些提示词整合到一起做成了一个Embedding文件，你只需要使用一个提示词，就可以直接引入这个人物形象进行创作了。下载Embedding的地方同样是在C站，通过右上角的筛选Textual Inversion就可以找到，放在根目录下的embeddings文件夹里即可。接下来，讲一讲最重要的这个LORA,有了LORA就可以将人物或者物品接近完美地复刻进图像中，这就有了极大的商用价值。比如这个“墨心”的LORA，就可以把你的图片变成水墨风格。这个盲盒LORA可以生成这种2.5D的卡通小人角色。或者是一些明星角色的LORA，直接生成真人形象。还有知名的动漫角色，由于LORA其极其强大的功能，所以在使用上，大家需要有很强的版权和法律意识，所谓能力越大、责任越大，玩得太花，小心律师函到你家。

Others are asking
怎么用大模型构建一个属于我自己的助手
以下是用大模型构建属于自己的助手的几种方法： 1. 在网站上构建： 创建百炼应用获取大模型推理 API 服务： 进入百炼控制台的，在页面右侧点击新增应用，选择智能体应用并创建。 在应用设置页面，模型选择通义千问Plus，其他参数保持默认，也可以输入一些 Prompt 来设置人设。 在页面右侧提问验证模型效果，点击右上角的发布。 获取调用 API 所需的凭证： 在我的应用>应用列表中查看所有百炼应用 ID 并保存到本地。 在顶部导航栏右侧，点击人型图标，点击 APIKEY 进入我的 APIKEY 页面，创建新 APIKEY 并保存到本地。 2. 微信助手构建： 搭建，用于汇聚整合多种大模型接口，并获取白嫖大模型接口的方法。 搭建，作为知识库问答系统，将大模型接入用于回答问题，若不接入微信，搭建完成即可使用其问答界面。 搭建接入微信，配置 FastGpt 将知识库问答系统接入微信，建议先用小号以防封禁风险。 3. 基于 COW 框架构建： COW 是基于大模型搭建的 Chat 机器人框架，可将多模型塞进微信。 基于张梦飞同学的更适合小白的使用教程：。 实现功能包括打造属于自己的 ChatBot（文本对话、文件总结、链接访问、联网搜索、图片识别、AI 画图等）、常用开源插件的安装应用。 注意事项： 微信端因非常规使用有封号危险，不建议主力微信号接入。 只探讨操作步骤，请依法合规使用。 大模型生成的内容注意甄别，确保操作符合法律法规要求。 禁止用于非法目的，处理敏感或个人隐私数据时注意脱敏，以防滥用或泄露。 支持多平台接入，如微信、企业微信、公众号、飞书、钉钉等。 支持多模型选择，如 GPT3.5/GPT4.0/Claude/文心一言/讯飞星火/通义千问/Gemini/GLM4/LinkAI 等。 支持多消息类型，能处理文本、语音和图片，以及基于自有知识库进行定制的企业智能客服功能。 支持多部署方法，如本地运行、服务器运行、Docker 的方式。
2025-02-17
怎么用大模型构建一个属于我自己的助手
以下是用大模型构建属于自己的助手的几种方法： 1. 在网站上构建： 创建百炼应用获取大模型推理 API 服务： 进入百炼控制台的，在页面右侧点击新增应用，选择智能体应用并创建。 在应用设置页面，模型选择通义千问Plus，其他参数保持默认，也可以输入一些 Prompt 来设置人设。 在页面右侧提问验证模型效果，点击右上角的发布。 获取调用 API 所需的凭证： 在我的应用>应用列表中查看所有百炼应用 ID 并保存到本地。 在顶部导航栏右侧，点击人型图标，点击 APIKEY 进入我的 APIKEY 页面，创建新 APIKEY 并保存到本地。 2. 微信助手构建： 搭建，用于汇聚整合多种大模型接口，并获取白嫖大模型接口的方法。 搭建，作为知识库问答系统，将大模型接入用于回答问题，若不接入微信，搭建完成即可使用其问答界面。 搭建接入微信，配置 FastGpt 将知识库问答系统接入微信，建议先用小号以防封禁风险。 3. 基于 COW 框架构建： COW 是基于大模型搭建的 Chat 机器人框架，可将多模型塞进微信。 基于张梦飞同学的更适合小白的使用教程：。 实现功能包括打造属于自己的 ChatBot（文本对话、文件总结、链接访问、联网搜索、图片识别、AI 画图等）、常用开源插件的安装应用。 注意事项： 微信端因非常规使用有封号危险，不建议主力微信号接入。 只探讨操作步骤，请依法合规使用。 大模型生成的内容注意甄别，确保操作符合法律法规要求。 禁止用于非法目的，处理敏感或个人隐私数据时注意脱敏，以防滥用或泄露。 支持多平台接入，如微信、企业微信、公众号、飞书、钉钉等。 支持多模型选择，如 GPT3.5/GPT4.0/Claude/文心一言/讯飞星火/通义千问/Gemini/GLM4/LinkAI 等。 支持多消息类型，能处理文本、语音和图片，以及基于自有知识库进行定制的企业智能客服功能。 支持多部署方法，如本地运行、服务器运行、Docker 的方式。
2025-02-17
语文教学如何使用大模型
在语文教学中使用大模型，可以参考以下方面： 1. 提示词设置： Temperature：参数值越小，模型返回结果越确定；调高参数值，可能带来更随机、多样化或具创造性的产出。对于质量保障等任务，可设置低参数值；对于诗歌生成等创造性任务，可适当调高。 Top_p：与 Temperature 类似，用于控制模型返回结果的真实性。需要准确答案时调低参数值，想要更多样化答案时调高。一般改变其中一个参数即可。 Max Length：通过调整控制大模型生成的 token 数，有助于防止生成冗长或不相关的响应并控制成本。 Stop Sequences：指定字符串来阻止模型生成 token，控制响应长度和结构。 Frequency Penalty：对下一个生成的 token 进行惩罚，减少响应中单词的重复。 2. 了解大模型： 大模型通俗来讲是输入大量语料，让计算机获得类似人类的“思考”能力，能进行文本生成、推理问答、对话、文档摘要等工作。 训练和使用大模型可类比上学参加工作：找学校（需要大量 GPU 计算）、确定教材（大量数据）、找老师（算法）、就业指导（微调）、搬砖（推导）。 Token 是模型处理和生成的文本单位，在将输入进行分词时会形成词汇表。 需要注意的是，在实际应用中，可能需要根据具体的教学需求和场景进行调整和实验，以找到最适合的设置和方法。
2025-02-17
如何利用大模型写教案
利用大模型写教案可以参考以下要点： 1. 输入的重要性：要输出优质的教案，首先要有高质量的输入。例如，写商业分析相关的教案，如果没有读过相关权威书籍，输入的信息缺乏信息量和核心概念，大模型给出的结果可能就很平庸。所以，脑海中先要有相关的知识概念，这来自于广泛的阅读和学习。 2. 对大模型的理解：大模型通过输入大量语料获得类似人类的“思考”能力，能够进行文本生成、推理问答、对话、文档摘要等工作。其训练和使用过程可以类比为上学参加工作，包括找学校（需要大量计算资源）、确定教材（大量数据）、找老师（合适的算法）、就业指导（微调）、搬砖（推导）等步骤。 3. 与大模型的交互： 提示词工程并非必须学习，不断尝试与大模型交互是最佳方法。 交互时不需要遵循固定规则，重点是是否达成目的，未达成可锲而不舍地尝试或更换模型。 用 Markdown 格式清晰表达问题，它具有结构清晰、能格式化强调关键部分、适用性广等优点，有助于大模型更好地理解用户意图。
2025-02-17
deepseek是不是国内通用大模型第一名
DeepSeek 是在国内表现出色的模型之一。它发布的大一统模型 JanusPro 将图像理解和生成统一在一个模型中，具有统一 Transformer 架构，提供 1B 和 7B 两种规模，全面开源，支持商用，部署使用便捷，Benchmark 表现优异，能力更全面。同时，在 LMSYS 排行榜上，由 DeepSeek 等开发的模型取得了优异成绩，尤其在数学和编程方面表现出色。DeepSeek 在推理过程中通过多头隐式注意力减少内存需求，并且改进了 MoE 架构。但不能简单地说 DeepSeek 就是国内通用大模型第一名，其在不同方面的表现还需综合评估。
2025-02-08
Coze + 飞书 + 飞书多维表格：通过飞书机器人与 Coze 搭建的智能体进行对话，在聊天窗口中完成链接输入和阅读计划输出。由 Coze 调用大模型、插件完成内容的整理、推荐，利用飞书多维表格存储和管理稍后读数据，无需开发任何插件、APP，能实现跨平台的稍后读收集与智能阅读计划的推荐。其设计思路包括简化“收集”，实现跨平台收集和通过输入 URL 完成收集；自动化“整理入库”，自动整理关键信息并支持跨平台查看；智能“选择”推荐，根据收藏记录和用户兴趣生成阅读计划——这个方法具体如何操作？
以下是关于通过飞书机器人与 Coze 搭建的智能体进行对话，并利用飞书多维表格存储和管理稍后读数据，实现跨平台的稍后读收集与智能阅读计划推荐的具体操作方法： 前期准备： 1. 简化“收集”： 实现跨平台收集功能，支持电脑（web 端）、安卓、iOS 多端操作。 输入一个 URL 即可完成收集，借鉴微信文件传输助手的方式，通过聊天窗口完成收集输入。 2. 自动化“整理入库”： 系统在入库时自动整理每条内容的关键信息，包括标题、摘要、作者、发布平台、发布日期、收集时间和阅读状态。 阅读清单支持跨平台查看。 3. 智能“选择”推荐： 根据当前收藏记录和用户阅读兴趣进行相关性匹配，生成阅读计划。 使用飞书·稍后读助手： 1. 设置稍后读存储地址： 首次使用，访问。 点击「更多创建副本」，复制新表格的分享链接。 将新链接发送到智能体对话中。 还可以发送“查询存储位置”、“修改存储位置”来更换飞书多维表格链接，调整稍后读存储位置。 2. 收藏待阅读的页面链接： 在对话中输入需要收藏的页面链接，第一次使用会要求授权共享数据，授权通过后再次输入即可完成收藏。但目前部分页面链接可能小概率保存失败。 3. 智能推荐想看的内容： 在对话中发送“我想看 xx”、“xx 内容”，即可按个人兴趣推荐阅读计划。 至此，专属 AI 稍后读智能体大功告成，您可以尽情享受相关服务。
2025-01-27
哪些AI工具可以将歌曲MP3改成MV
目前尚未有直接将歌曲 MP3 转换为 MV 的成熟 AI 工具。通常，制作 MV 需要涉及视频编辑、特效处理、画面设计等多个复杂的环节，需要借助专业的视频编辑软件，如 Adobe Premiere Pro、Final Cut Pro 等，并结合创意和素材来完成。
2025-01-18
我想拍MV
以下是关于用 AI 制作 MV 的相关信息： AI 音乐生成可用于制作 MV。在制作 MV 时，若曲库里的歌曲无法满足对歌词内容、歌曲风格和长度的要求，AI 音乐生成工具能发挥价值。比如，在春节期间围绕“过年”主题制作 AI 音乐视频时，先确定期望的歌曲特点，如歌词描绘“过年”故事、措辞风格为悠扬温馨的中国风、时长 50 秒左右等。若在音乐素材网站未找到合适歌曲，可借助 AI 生成音乐，如使用 Suno 并通过订阅会员获得商业使用权。 在歌词创作方面，若 Suno 内置的歌词生成功能不支持多轮对话修改，可借助 ChatGPT 生成歌词。 在视频制作方面，歌曲选定后，可通过 AI 绘图工具如 SD、Midjourney 制作静态分镜，参考影视行业分镜表写提示词。再通过 AI 视频生成工具如 Runway 把图片制作成动态分镜，最后在剪映里进行视频和音乐剪辑、添加音效和画面特效等。 以下为两个案例： 1. 春节期间围绕“过年”主题的 AI 音乐视频案例，通过上述流程制作完成。 2. 小田用 AI 制作 MV 的案例，其中包括镜头管理，如中景展现一群孩子在海边奔跑，全景展现一家人在油菜花田享受午后阳光等。
2025-01-04
有没有输入歌曲，自动生成mv的
目前存在输入歌曲自动生成 MV 的相关方法和案例： 大峰的案例中，先使用 Suno 生成歌曲，选择中国风风格，凭借音乐审美选出中意的歌曲。然后将歌词发给 GPT，让其以英文 AI 绘画提示词的形式提供每句歌词的每个分镜，再将生成的图片丢入 Midjourney 进行图片生成，最后用 Midjourney 生成的图片丢入 Runway 进行图生视频。 专业的歌曲分析师可以根据用户输入的歌词完成基本的歌曲 MV 构思部分。 在爆肝 60 小时的案例中，音乐制作方面一开始想抽三个不同的曲子拼接，但因节拍、风格、情绪不同难以剪辑，最后用了一首完整的曲子。团队成员上传推荐歌曲到多维表格，附上推荐理由，由相关人员审核通过。还有一些技巧，如在前奏部分重复第一句以解决发音不清晰问题。
2024-11-06
有什么工具可以帮助用户用okr的方式，分解成mvp
将OKR（目标与关键结果）分解成MVP（最小可行产品）的过程需要一些工具和方法来帮助用户进行有效的规划和执行。以下是一些常用的工具和方法，可以帮助用户实现这一目标： 工具 1. Trello： 功能：Trello 是一个基于看板的项目管理工具，可以帮助团队将OKR分解成具体的任务和MVP。 使用方法：创建一个看板，添加列表如“目标（Objectives）”、“关键结果（Key Results）”、“任务（Tasks）”、“MVP”等，将OKR逐步细化为具体的任务和MVP。 2. Asana： 功能：Asana 是一个强大的任务管理和项目管理工具，适合进行OKR到MVP的分解。 使用方法：在Asana中创建项目，设置目标和关键结果，然后将这些目标进一步分解成具体的任务，确定哪些任务构成MVP。 3. Notion： 功能：Notion 提供灵活的笔记、数据库和任务管理功能，可以用来管理OKR和MVP。 使用方法：创建一个数据库用于管理OKR，设置不同的视图（如任务视图、看板视图等）来跟踪目标的进展，并将关键结果细化为可执行的MVP。 4. Jira： 功能：Jira 是一个广泛使用的项目和问题跟踪工具，特别适合软件开发团队。 使用方法：在Jira中创建项目和用户故事，将OKR分解为具体的故事和任务，确定哪些故事构成MVP，使用sprint和看板视图来管理和跟踪进展。 5. Microsoft Planner： 功能：Planner 是微软提供的一个简单易用的任务管理工具，集成在Office 365中。 使用方法：创建计划板，设置OKR和相应的任务，将这些任务分配到团队成员，并标记出构成MVP的关键任务。 方法 1. SMART原则： 描述：确保每个目标都是具体的（Specific）、可衡量的（Measurable）、可实现的（Achievable）、相关的（Relevant）和有时间限制的（Timebound）。 应用：在定义OKR时，使用SMART原则确保目标清晰明确，有助于进一步分解为MVP。 2. 价值流映射： 描述：一种分析和设计流程的方法，旨在识别和减少浪费，提高效率。 应用：绘制从OKR到交付MVP的整个流程图，识别每一步的价值和瓶颈，将OKR有效地转化为MVP。 3. MoSCoW法则： 描述：一种需求优先级排序的方法，将任务分为必须（Must have）、应该（Should have）、可以（Could have）和不会（Won't have）。 应用：在分解OKR时，使用MoSCoW法则来确定哪些任务是MVP的一部分，确保优先完成关键任务。 4. 用户故事映射： 描述：一种用于管理产品功能和用户故事的技术，帮助团队了解和安排产品的工作。 应用：将OKR转化为用户故事，创建故事地图，确定哪些故事和功能构成MVP，确保MVP能实现核心目标。 这些工具和方法可以帮助团队有效地将高层次的OKR分解为具体的MVP，确保目标的实现和产品的快速迭代。
2024-05-28
我想做一个产品（生涯规划领域的垂直大模型），这个产品服务的对象是所有人：帮助所有人进行更好的职业规划。每个人都能通过使用这个产品更好地了解自己，了解自己的天赋、兴趣、优势，然后找到自己的热爱的领域和热爱的事业，并且能够个性化地推荐相关的行业和职业，包括职业的主要工作内容和核心能力要求等等。 请对这个产品进行可行性分析，并给出产品的发展规划，别忘了给这个项目起一个名字。
以下是对您提出的生涯规划领域垂直大模型产品的可行性分析和发展规划，并为项目取名为“生涯智途”。 可行性分析： 1. 需求广泛：帮助人们进行职业规划是一个普遍存在的需求，涵盖了各个年龄段和职业阶段的人群。 2. 数据可用性：可以通过各种渠道收集大量与职业相关的数据，包括行业报告、职位描述、人才需求等。 3. 技术支持：当前大模型技术的发展为实现这样的产品提供了可能，能够处理和分析大量复杂的数据。 发展规划： 1. 数据收集与整理：广泛收集各类职业数据，建立丰富的数据库，确保数据的准确性和完整性。 2. 模型训练与优化：利用收集到的数据进行模型训练，不断优化模型，提高预测和推荐的准确性。 3. 功能开发： 个性化测评：开发能够准确评估用户天赋、兴趣、优势的功能模块。 精准推荐：根据用户的特点，提供个性化的行业和职业推荐，并详细介绍职业的工作内容和核心能力要求。 持续学习与更新：随着行业变化，及时更新数据和模型，以提供最新的职业信息。 4. 用户体验优化：设计简洁、易用的界面，提供良好的用户交互体验。 5. 市场推广：通过线上线下多种渠道进行推广，提高产品的知名度和用户覆盖面。 希望以上分析和规划对您有所帮助。
2025-02-18
现在大语言模型的跑分对比
对比不同大语言模型的性能需要考虑多个维度，包括但不限于以下方面： 1. 理解能力：评估对语言的语法、语义、上下文和隐含意义的理解程度。 2. 生成质量：检查生成文本的流畅性、相关性和准确性。 3. 知识广度和深度：掌握广泛主题的知识程度，以及对特定领域或话题的理解深度。 4. 泛化能力：处理未见过的任务或数据时的表现。 5. 鲁棒性：应对错误输入、对抗性输入或模糊不清指令的能力。 6. 偏见和伦理：生成文本时是否存在偏见，是否遵循伦理标准。 7. 交互性和适应性：在交互环境中的表现，包括对用户反馈的适应性和持续对话的能力。 8. 计算效率和资源消耗：考虑模型大小、训练和运行所需的计算资源。 9. 易用性和集成性：是否易于集成到不同应用和服务中，提供的 API 和工具的易用性。 为了进行有效的比较，可以采用以下方法： 1. 标准基准测试：使用如 GLUE、SuperGLUE、SQuAD 等标准的语言模型评估基准，它们提供统一的测试环境和评分标准。 2. 自定义任务：根据特定需求设计任务，评估模型在特定领域的表现。 3. 人类评估：结合人类评估者的主观评价，特别是在评估文本质量和伦理问题时。 4. A/B 测试：在实际应用场景中，通过 A/B 测试比较不同模型的表现。 5. 性能指标：使用准确率、召回率、F1 分数、BLEU 分数等性能指标来量化比较。 当前领先的大型语言模型的排行榜，例如聊天机器人竞技场，由伯克利的团队管理，根据 ELO 评级对不同语言模型进行排名，计算方式与国际象棋中的类似。在排行榜中，顶部多为专有模型，下方有开放权重的模型。 大语言模型的特点包括： 1. 架构：有 encoderonly、encoderdecoder、decoderonly 等，如 BERT 是 encoderonly 模型，google 的 T5 是 encoderdecoder 模型，众多 AI 助手多为 decoderonly 模型。 2. 数据和参数：预训练数据量大，往往来自互联网，包括论文、代码、公开网页等，参数多，如 OpenAI 在 2020 年发布的 GPT3 已达到 170B 的参数。
2025-02-18
现在大语言模型的跑分对比
对比不同大语言模型的性能需要考虑多个维度，包括但不限于以下方面： 1. 理解能力：评估对语言的语法、语义、上下文和隐含意义的理解程度。 2. 生成质量：检查生成文本的流畅性、相关性和准确性。 3. 知识广度和深度：掌握广泛主题的知识程度，以及对特定领域或话题的理解深度。 4. 泛化能力：处理未见过的任务或数据时的表现。 5. 鲁棒性：应对错误输入、对抗性输入或模糊不清指令的能力。 6. 偏见和伦理：生成文本时是否存在偏见，是否遵循伦理标准。 7. 交互性和适应性：在交互环境中的表现，包括对用户反馈的适应性和持续对话的能力。 8. 计算效率和资源消耗：考虑模型大小、训练和运行所需的计算资源。 9. 易用性和集成性：是否易于集成到不同应用和服务中，提供的 API 和工具的易用性。 为了进行有效的比较，可以采用以下方法： 1. 标准基准测试：使用如 GLUE、SuperGLUE、SQuAD 等标准的语言模型评估基准，它们提供统一的测试环境和评分标准。 2. 自定义任务：根据特定需求设计任务，评估模型在特定领域的表现。 3. 人类评估：结合人类评估者的主观评价，特别是在评估文本质量和伦理问题时。 4. A/B 测试：在实际应用场景中，通过 A/B 测试比较不同模型的表现。 5. 性能指标：使用准确率、召回率、F1 分数、BLEU 分数等性能指标来量化比较。 当前领先的大型语言模型的排行榜，例如聊天机器人竞技场，由伯克利的团队管理，根据 ELO 评级对不同语言模型进行排名，计算方式与国际象棋中的类似。在排行榜中，顶部多为专有模型，下方有开放权重的模型。 大语言模型的特点包括： 1. 架构：有 encoderonly、encoderdecoder、decoderonly 等，如 BERT 是 encoderonly 模型，google 的 T5 是 encoderdecoder 模型，众多 AI 助手多为 decoderonly 模型。 2. 数据和参数：预训练数据量大，往往来自互联网，包括论文、代码、公开网页等，参数多，如 OpenAI 在 2020 年发布的 GPT3 已达到 170B 的参数。
2025-02-18
什么是大模型一体机
大模型一体机是一个相对复杂的概念。通俗来讲，大模型是输入大量语料，让计算机获得类似人类的“思考”能力，能够进行文本生成、推理问答、对话、文档摘要等工作。其本质是两个文件：一个是参数文件，类似于问答机器人的“大脑镜像”，负责处理和生成文本信息；另一个是包含运行这些参数的代码文件。 大模型的训练和使用过程可以类比为上学参加工作： 1. 找学校：训练大模型需要大量计算，GPU 更合适，只有购买得起大量 GPU 的才有资本训练。 2. 确定教材：大模型需要的数据量特别多，几千亿序列（Token）的输入基本是标配。 3. 找老师：即用合适的算法讲述“书本”中的内容，让大模型更好理解 Token 之间的关系。 4. 就业指导：为了让大模型更好胜任某一行业，需要进行微调（fine tuning）指导。 5. 搬砖：就业指导完成后，进行如翻译、问答等工作，在大模型里称之为推导（infer）。 大模型的特点包括： 1. 预训练数据非常大，往往来自互联网上的论文、代码、公开网页等，一般用 TB 级别的数据进行预训练。 2. 参数非常多，如 Open 在 2020 年发布的 GPT3 就已达到 170B 的参数。 在架构方面，大模型有 encoderonly、encoderdecoder、decoderonly 等类型。目前常见的 AI 助手多采用 decoderonly 架构。
2025-02-18
传统AI、大模型、AGI的区别
传统 AI、大模型、AGI 存在以下区别： 传统 AI： 语音技能 NLU 通常通过一系列规则、分词策略等训练而成。 运作逻辑规律可观测，具有 ifelse 式的逻辑性。 大模型： 凭借海量数据在向量空间中学习知识的关联性。 运作逻辑难以观测，脱离了 ifelse 的层面。 Transformer 是其底层结构，是一个大参数（千亿级别）的回归方程，底层是 function loss 损失函数，能在一定 prompt condition 情况下，repeat 曾经出现过的数据内容，实现“生成”能力。 大语言模型是一个 perfect memory，repeat 曾经出现的内容。与 Alpha Go 相比，Alpha Go 是增强学习模型，有推理能力，而大语言模型这块很弱。 AGI（通用人工智能）： 部分人觉得 LLM（大语言模型）具有 AGI 潜力，但 LeCun 反对。 目前对于能否到达 AGI 阶段尚不明确。 在公众传播层面： AIGC 指用 Stable Diffusion 或 Midjourney 生成图像内容，后来泛指用 AI 生成音乐、图像、视频等内容。 LLM 指 NLP 领域的大语言模型，如 ChatGPT。 GenAI 是生成式人工智能模型，国内官方政策文件使用这个词相对科学，涵盖了 LLM 和 AIGC。 公众传播一般会混用上述名词，但底层是 transformer 结构。
2025-02-18
有哪些在企业内部落地应用AI大模型工具的实践案例？不要营销文案生成、代码开发助手、智能客服问答机器人这种太常见的
以下是一些在企业内部落地应用 AI 大模型工具的实践案例： 1. 阿里云百炼： 智能体应用：能够弥补大模型的不足，如回答私有领域问题、获取实时信息、回答专业问题等。适用于有企业官网、钉钉、微信等渠道，期望为客户提供产品咨询服务，以及缺少技术人员开发大模型问答应用的场景。典型场景包括私有领域知识问答、个性化聊天机器人、智能助手等。 内部业务助手：通过企业内部规章制度、部门结构、产品介绍等文档构建知识库，并借助 RAG 智能体实现内部知识问答功能。系统支持多源异构数据，并通过复杂文档解析和视觉增强技术，提升文档理解的准确性与深度。目前该功能已灰度上线，需提供 UID 并通过白名单进行开启。 2. 达摩院： AI 模特（虚拟换装）：支持虚拟换装、姿态编辑。 3. 电商零售： 推广文案写作：通过内置的多样化营销场景的文体模板，基于用户输入的创作主题以及参考素材，大模型即可为您生成对应的营销文案，为营销活动和宣传文案提供灵感和文案写作支持。 4. 泛企业： VOC 挖掘：是一个面向各类企业的 VOC 标签挖掘的工具。不论是用户的长短评论、帖子、还是用户和客服/销售的聊天记录、通话记录，都可以使用。通过选中或自定义标签，即可让大模型针对海量非结构化的 VOC 数据快速打标。相比于人工打标或规则打标准确率更高；对于业务标签变动频繁的情况，也能更敏捷、快速地影响。 5. 通义晓蜜：基于深度调优的对话大模型，为营销服类产品提供智能化升级所需的生成式摘要总结、质检、分析等能力应用。
2025-02-18