Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

嵌入式模型有哪些

Answer

以下是一些常见的嵌入式模型:

  1. OpenAI 提供了第二代嵌入模型 text-embedding-ada-002,它具有更好、更便宜、更易于使用的特点。使用 cl100k_base 分词器,最大输入 token 为 8191,输出为 1536。
  2. OpenAI 还提供了 16 个第一代模型(以 -001 结尾),均使用 GPT-3 分词器,最大输入为 2046 个分词。第一代嵌入模型包括针对不同任务调整的五个系列,如相似性嵌入(如 text-similarity-babbage-001、text-similarity-curie-001、text-similarity-davinci-001)、文本搜索嵌入(如 text-search-ada-query-001 等)、代码搜索嵌入(如 code-search-ada-text-001 等)。
  3. 此外,还有 Whisper 这种通用的语音识别模型,它是多任务模型,可执行多语言语音识别以及语音翻译和语言识别,目前可通过 OpenAI 的 API(模型名 whisper-1)使用 Whisper v2-large 模型。
Content generated by AI large model, please carefully verify (powered by aily)

References

嵌入(Embeddings)

OpenAI提供了一个第二代嵌入模型(在模型ID中用-002表示)和16个第一代模型(在模型ID中用-001表示)。我们建议对几乎所有用例使用text-embedding-ada-002。它更好、更便宜、更易于使用。|模型生成|分词器|最大输入token|数据来源截止至||-|-|-|-||V2|cl100k_base|8191|Sep 2021||V1|GPT-2/GPT-3|2046|Aug 2020|使用量按输入Token定价,每1000个Token 0.0004美元,或每美元约3,000页[heading4]第二代模型[content]|模型名称|分词器|最大输入token|输出||-|-|-|-||text-embedding-ada-002|cl100k_base|8191|1536|

嵌入(Embeddings)

所有第一代模型(以-001结尾的模型)都使用GPT-3分词器,最大输入为2046个分词。第一代嵌入由五个不同的模型系列生成,这些模型系列针对三个不同的任务进行了调整:文本搜索、文本相似性和代码搜索。搜索模型成对出现:一个用于短查询,一个用于长文档。每个系列最多包括四种质量和速度不同的型号:Davinci是最有能力的,但比其他型号更慢且更昂贵。Ada的能力最差,但速度更快,成本更低。相似性嵌入相似性模型最擅长捕捉文本片段之间的语义相似性。text-similarity-babbage-001 text-similarity-curie-001 text-similarity-davinci-001|文本搜索嵌入文本搜索模型有助于衡量哪些长文档与短搜索查询最相关。使用了两种模型:一种用于嵌入搜索查询,一种用于嵌入要排名的文档。最接近查询嵌入的文档嵌入应该是最相关的。text-search-ada-query-001 text-search-babbage-doc-001 text-search-babbage-query-001 text-search-curie-doc-001 text-search-curie-query-001 text-search-davinci-doc-001 text-search-davinci-query-001|代码搜索嵌入与搜索嵌入类似,有两种类型:一种用于嵌入自然语言搜索查询,一种用于嵌入要检索的代码片段。code-search-ada-text-001 code-search-babbage-code-001 code-search-babbage-text-001|对于-001文本嵌入(不是-002,也不是代码嵌入),我们建议将输入中的换行符(\n)替换为单个空格,因为当存在换行符时我们已经看到更糟糕的结果。

模型(Models)

Whisper是一种通用的语音识别模型。它在不同音频的大型数据集上进行训练,也是一个多任务模型,可以执行多语言语音识别以及语音翻译和语言识别。目前可通过我们的API(模型名whisper-1)使用Whisper v2-large模型。目前,[Whisper的开源版本](https://github.com/openai/whisper)和通过我们的API提供的版本之间没有区别。但是,通过我们的API,我们提供了一个优化的推理过程,这使得通过我们的API运行Whisper比通过其他方式运行要快得多。有关Whisper的更多技术细节,您可以[阅读论文](https://arxiv.org/abs/2212.04356)。[heading2]嵌入(Embedding)[content]嵌入(Embedding)是文本的数字表示,可用于衡量两段文本之间的相关性。我们的第二代嵌入模型text-embedding-ada-002旨在以一小部分成本取代之前的16种第一代嵌入(Embedding)模型。嵌入(Embedding)可用于搜索、聚类、推荐、异常检测和分类任务。您可以在[公告博客文章](https://openai.com/blog/new-and-improved-embedding-model)中阅读有关我们最新嵌入模型的更多信息。

Others are asking
嵌入式WEB翻译插件
以下是关于嵌入式 WEB 翻译插件的相关信息: SD 提示词自动翻译插件 promptallinone: 作者:白马少年 发布时间:20230529 20:00 原文网址:https://mp.weixin.qq.com/s/qIshiSRZiTiKGqDFGjD0g 在 Stable Diffusion 中输入提示词只能识别英文,秋叶整合包包含提示词联想插件。 常用翻译软件如 DeepL(网址:https://www.deepl.com/translator,可下载客户端)、网易有道翻译(可 ctrl+alt+d 快速截图翻译),但复制粘贴来回切换麻烦。 自动翻译插件 promptallinone 安装方式:在扩展面板中搜索 promptallinone 直接安装,或把下载好的插件放在“……\\sdwebuiakiv4\\extensions”路径文件夹下,安装完成后重启 webUI。 插件特点: 一排小图标,第一个可设置插件语言为简体中文。 第二个图标是设置,点开后点击第一个云朵图标可设置翻译接口,点击第一行下拉菜单可选择翻译软件。 AIGC 落地应用 Open AI Translator(强烈推荐): 推荐指数:????? 是接入了 GPT 能力的文本翻译、总结、分析类产品,翻译功能适合浏览网页时查询个别单词、句子。 最大优势是可在脱离只提供产品内 AI 能力的场景使用,如任何 web 场景,配合 Arc Browser 而非 Chrome 使用效果更佳。 调用方式:选中页面中的文本后会悬浮该插件,点击即可翻译,速度极快,摆脱“复制打开翻译软件粘贴翻译”的流程。 可用于文本分析、分析代码,搭配 Chat GPT 使用效果好。 开发者模式下也可辅助使用。 注:安装后需获取 Open AI 的 API Key,首次打开插件设置好 Open AI Key 地址,找地方保存好 API Key 方便使用。 下载地址:
2025-02-15
大模型的系统提示词
大模型的系统提示词主要包括以下方面: 1. 在“五津:一键生成‘摸鱼打工猫’视频”中,针对用户选择的主题和回答,总结用户的创作意图,如“打工猫摸鱼的 2 小时,在巴厘岛能看一场日落”,并根据此生成 4 组体现幽默风趣、以宫崎骏风格描绘主角为摸秋刀鱼橘猫的绘图提示词,以数组形式输出到“tishici”,将用户意图输出到“biaoti”。 2. 在“云中江树:智能对决:提示词攻防中的 AI 安全博弈”中,系统提示词的相关防御措施分为输入侧、模型侧和输出侧三个部分。输入侧可进行意图识别、语义匹配等综合判断用户输入是否恶意;模型侧对于有能力的厂商应增强安全性并平衡性能,开发者则要在开发中带着安全意识优化系统提示词,加入安全引导和禁止内容等;输出侧可使用传统防御和内容过滤手段,并针对大模型特点进行私有数据泄露等检查。此外,还提到间接注入和提示词泄露的情况,间接注入常发生在应用获取依赖外部数据资源时,攻击者通过隐藏恶意指令完成攻击;提示词泄露指试图操纵模型输出获取部分或全部系统提示词,大模型输出内容可分为系统提示词、用户提示和助手提示词三段,通过攻击手段可获取系统提示词。
2025-04-18
通义千问Qwen2.5-VL、阶跃星辰step-1.5v-mini、Gemini-2.0-Flash,这3个视觉理解大模型哪个最厉害?
以下是对通义千问 Qwen2.5VL 模型的介绍: 版本:有 3B、7B 和 72B 三个尺寸版本。 主要优势: 视觉理解能力:在 13 项权威评测中夺得视觉理解冠军,全面超越 GPT4o 与 Claude3.5。 视频理解能力:支持超 1 小时的视频理解,无需微调即可变身为 AI 视觉智能体,实现多步骤复杂操作。 万物识别:擅长识别常见物体及分析图像中的文本、图表、图标、图形和布局。 精准的视觉定位:采用矩形框和点的多样化方式对通用物体定位,支持层级化定位和规范的 JSON 格式输出。 全面的文字识别和理解:提升 OCR 识别能力,增强多场景、多语言和多方向的文本识别和文本定位能力。 Qwen 特色文档解析:设计了更全面的文档解析格式,称为 QwenVL HTML 格式,能够精准还原文档中的版面布局。 增强的视频理解:引入动态帧率(FPS)训练和绝对时间编码技术,支持小时级别的超长视频理解,具备秒级的事件定位能力。 开源平台: Huggingface:https://huggingface.co/collections/Qwen/qwen25vl6795ffac22b334a837c0f9a5 Modelscope:https://modelscope.cn/collections/Qwen25VL58fbb5d31f1d47 Qwen Chat:https://chat.qwenlm.ai 然而,对于阶跃星辰 step1.5vmini 和 Gemini2.0Flash 模型,目前提供的信息中未包含其与通义千问 Qwen2.5VL 模型的直接对比内容,因此无法确切判断哪个模型在视觉理解方面最厉害。但从通义千问 Qwen2.5VL 模型的上述特点来看,其在视觉理解方面具有较强的能力和优势。
2025-04-15
目前全世界最厉害的对视频视觉理解能力大模型是哪个
目前在视频视觉理解能力方面表现出色的大模型有: 1. 昆仑万维的 SkyReelsV1:它不仅支持文生视频、图生视频,还是开源视频生成模型中参数最大的支持图生视频的模型。在同等分辨率下各项指标实现开源 SOTA。其具有影视化表情识别体系、人物空间位置感知、行为意图理解、表演场景理解等优势。 2. 通义千问的 Qwen2.5VL:在 13 项权威评测中夺得视觉理解冠军,全面超越 GPT4o 与 Claude3.5。支持超 1 小时的视频理解,无需微调即可变身为 AI 视觉智能体,实现多步骤复杂操作。擅长万物识别,能分析图像中的文本、图表、图标、图形和布局等。
2025-04-15
目前全世界最厉害的视频视觉理解大模型是哪个
目前全世界较为厉害的视频视觉理解大模型有以下几个: 1. 昆仑万维的 SkyReelsV1:不仅支持文生视频、图生视频,是开源视频生成模型中参数最大且支持图生视频的模型。在同等分辨率下各项指标实现开源 SOTA。其优势包括影视化表情识别体系、人物空间位置感知、行为意图理解、表演场景理解等。 2. 腾讯的混元:语义理解能力出色,能精准还原复杂的场景和动作,如特定品种的猫在复杂场景中的运动轨迹、从奔跑到跳跃的动作转换、琴音化作七彩音符等。 3. Pixverse V3.5:全球最快的 AI 视频生成模型,Turbo 模式下可在 10 秒内生成视频,最快仅需 5 6 秒。支持运动控制更加稳定、细节表现力强、首尾帧生成功能,具备顶尖动漫生成能力。
2025-04-15
目前全世界最厉害的视觉理解大模型是哪个
目前在视觉理解大模型方面,较为突出的有 DeepSeek 的 JanusPro 模型,它将图像理解和生成统一在一个模型中;还有通义千问的视觉理解模型,其价格有较大降幅。此外,Pixverse V3.5 是全球最快的 AI 视频生成模型,在某些方面也展现出了出色的能力。但很难确切地指出全世界最厉害的视觉理解大模型,因为这取决于不同的评估标准和应用场景。
2025-04-15
大模型对话产品的优劣
大模型对话产品具有以下优点: 1. 具有强大的语言理解和生成能力。 2. 能够提供类似恋爱般令人上头的体验,具有一定的“想象力”和“取悦能力”。 3. 可以通过陪聊建立人和 AI 之间的感情连接,产品粘性不完全依赖技术优越性。 4. 能够为用户提供产品咨询服务,适用于有企业官网、钉钉、微信等渠道的客户。 5. 具有多种应用场景,如私有领域知识问答、个性化聊天机器人、智能助手等。 大模型对话产品也存在一些缺点: 1. 存在记忆混乱的问题。 2. AI 无法主动推动剧情,全靠用户脑补,导致用户上头期短,疲劳度高,长期留存低。 3. 无法回答私有领域问题(如公司制度、人员信息等)。 4. 无法及时获取最新信息(如实时天气、比赛结果等)。 5. 无法准确回答专业问题(如复杂数学计算、图像生成等)。
2025-04-14