以下是一些常见的嵌入式模型:
OpenAI提供了一个第二代嵌入模型(在模型ID中用-002表示)和16个第一代模型(在模型ID中用-001表示)。我们建议对几乎所有用例使用text-embedding-ada-002。它更好、更便宜、更易于使用。|模型生成|分词器|最大输入token|数据来源截止至||-|-|-|-||V2|cl100k_base|8191|Sep 2021||V1|GPT-2/GPT-3|2046|Aug 2020|使用量按输入Token定价,每1000个Token 0.0004美元,或每美元约3,000页[heading4]第二代模型[content]|模型名称|分词器|最大输入token|输出||-|-|-|-||text-embedding-ada-002|cl100k_base|8191|1536|
所有第一代模型(以-001结尾的模型)都使用GPT-3分词器,最大输入为2046个分词。第一代嵌入由五个不同的模型系列生成,这些模型系列针对三个不同的任务进行了调整:文本搜索、文本相似性和代码搜索。搜索模型成对出现:一个用于短查询,一个用于长文档。每个系列最多包括四种质量和速度不同的型号:Davinci是最有能力的,但比其他型号更慢且更昂贵。Ada的能力最差,但速度更快,成本更低。相似性嵌入相似性模型最擅长捕捉文本片段之间的语义相似性。text-similarity-babbage-001 text-similarity-curie-001 text-similarity-davinci-001|文本搜索嵌入文本搜索模型有助于衡量哪些长文档与短搜索查询最相关。使用了两种模型:一种用于嵌入搜索查询,一种用于嵌入要排名的文档。最接近查询嵌入的文档嵌入应该是最相关的。text-search-ada-query-001 text-search-babbage-doc-001 text-search-babbage-query-001 text-search-curie-doc-001 text-search-curie-query-001 text-search-davinci-doc-001 text-search-davinci-query-001|代码搜索嵌入与搜索嵌入类似,有两种类型:一种用于嵌入自然语言搜索查询,一种用于嵌入要检索的代码片段。code-search-ada-text-001 code-search-babbage-code-001 code-search-babbage-text-001|对于-001文本嵌入(不是-002,也不是代码嵌入),我们建议将输入中的换行符(\n)替换为单个空格,因为当存在换行符时我们已经看到更糟糕的结果。
Whisper是一种通用的语音识别模型。它在不同音频的大型数据集上进行训练,也是一个多任务模型,可以执行多语言语音识别以及语音翻译和语言识别。目前可通过我们的API(模型名whisper-1)使用Whisper v2-large模型。目前,[Whisper的开源版本](https://github.com/openai/whisper)和通过我们的API提供的版本之间没有区别。但是,通过我们的API,我们提供了一个优化的推理过程,这使得通过我们的API运行Whisper比通过其他方式运行要快得多。有关Whisper的更多技术细节,您可以[阅读论文](https://arxiv.org/abs/2212.04356)。[heading2]嵌入(Embedding)[content]嵌入(Embedding)是文本的数字表示,可用于衡量两段文本之间的相关性。我们的第二代嵌入模型text-embedding-ada-002旨在以一小部分成本取代之前的16种第一代嵌入(Embedding)模型。嵌入(Embedding)可用于搜索、聚类、推荐、异常检测和分类任务。您可以在[公告博客文章](https://openai.com/blog/new-and-improved-embedding-model)中阅读有关我们最新嵌入模型的更多信息。