Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

大模型成本

Answer

大模型的成本主要通过 token 数量来计算。普通常见单词使用一个 token，不常见单词可能被拆分从而消耗更多 token。一般 300 个单词约需 400 个 token，token 消耗通常比单词数多出 33%左右。

以 GPT 为例，一个成年人一小时阅读约 30000 个词，按转化率约需 40000 个 token。GPT3.5 每 1000 个 token 需 0.002 美元，供成年人阅读使用 1 小时消耗 0.08 美元（8 美分）；GPT4 则需 2.4 美元。

在搭建 AI 微信聊天机器人方面，极简未来平台的费用取决于使用的大模型和调用次数，按 Token 数量计费。如使用 GPT-3.5 模型每次对话大约消耗不到 20 积分，平台有签到免费领积分福利，也可充值，19 元可兑换 10000 积分，能满足日常使用好几个月。

Content generated by AI large model, please carefully verify (powered by aily)

References

学习笔记：Generative AI for Everyone吴恩达

token，通常指的是：文本中可以被视为一个单独单位的元素，比如单词、数字或符号。如图所示，普通常见单词，使用一个token，但是不常见的单词可能被计算机拆分，于是会消耗更多的token.如果需要使用300个单词，大概会使用400个token.一般token消化会比单词书多出33%左右。价格举例：计算举例：一个人每分钟阅读250个词，一小时可以阅读15000个词；但因为需要输入以后才有输出，所以文本输入假设与文本输出相同，那输入同样需要15000个词；输入与输出一共需要30000个词，按照转化率，约需要40000个token；按每1千个token需要0.002美元来看，GPT3.5供一个成年人阅读使用1小时，消耗0.08美元即8美分;当然如果变成GPT4，费用就变成了2.4美元[heading4]检索增强生成（RAG）[content]普通的聊天机器人，在提问这里有供员工停车的地方时，会请求更多的信息。而RAG聊天机器人，会搜索相关文件并给出答案。为什么？RAG分三个步骤第一步，给出答案后，搜索相关文件找寻答案第二步，将检测到的文件文本合并到更新的提示词中第三步，通过增加的内容来生成对应的答案（有时会直接展示链接文件供用户参考）现有许多应用软件中，可以提交PDF文档，阅读网址信息等，用户直接提问AI工具从而获得信息大模型有非常多的通用知识，但并不知道所有事。通过提供相关的信息，可以要求大模型处理信息并给出答案将大模型作为推理引擎来处理信息而不是知识库

零基础模板化搭建 AI 微信聊天机器人

A10:极简未来平台的费用主要取决于使用的大模型和调用次数。具体费用是按照Token数量计算的，不同的大模型能力，所需的Token数不同。例如，使用GPT-3.5模型的每次对话大约消耗不到20积分。平台还提供了每天签到免费领取积分的福利，用户可以通过签到免费获得50到几百积分。除此之外，充值19元可以兑换10000积分，这些积分足够日常使用好几个月了。所以，实际使用成本并不高。Q11:服务器的费用如何？A11:腾讯云的轻量应用服务器价格非常划算，尤其是新用户优惠活动。例如，一个2核2G3M的服务器套餐一年只需82元，当然新用户优惠过后可能之后的续费费用会贵一点，100多到几百一年不等。这使得即使是技术小白也能低成本试错，体验在云端部署和运行服务的乐趣。Q12:宝塔面板和Docker的使用费用如何？A12:宝塔面板有免费和付费版本，免费版已经提供了足够多的功能，完全可以满足本教程的需求。Docker是开源免费的，使用Docker部署和管理应用不会产生额外费用。Q13:如果技术小白担心不会运维服务器和服务，该怎么办？A13:对于技术小白来说，运维服务器和服务可能看起来有些复杂，但以下几点可以帮助解决这个问题：

零基础模板化搭建 AI 微信聊天机器人

其实机器人应用背后使用到的大模型等能力都是需要付费，先给你看看目前平台的计费规则：详细版的计费规则在这里-https://docs.link-ai.tech/platform/funds/price其实AI大模型相关的功能交互，主要都是用Token来作为单位的，不同的大模型能力，平台一积分能兑换到Token数是不同的，能力越强的大模型一积分所能兑换到的Token数就越少，像我日常使用的GPT 3.5能力的大模型，平均每次对话大概都会消耗不到20积分：除了每天平台的签到可以免费领取50到几百的积分，而充值的话，目前是可以19元兑换10000积分，说实在的，我充了这个一次，已经够我使用好几个月了，所以大模型的使用成本其实不算高了...

Others are asking
模型成本
以下是关于模型成本的相关信息： GPT3.5 系列： gpt3.5turbo：功能强大，针对聊天优化，成本仅为 textdavinci003 的 1/10，最大 Token 数 4096，训练数据截至 2021 年 9 月。 gpt3.5turbo0301：gpt3.5turbo 2023 年 3 月 1 日的快照，不会更新，仅在 2023 年 6 月 1 日结束的三个月内提供支持，最大 Token 数 4096，训练数据截至 2021 年 9 月。 textdavinci003：能完成任何语言任务，支持在文本中插入补全，最大 Token 数 4097，训练数据截至 2021 年 6 月。 textdavinci002：与 textdavinci003 类似，使用监督微调训练，最大 Token 数 4097，训练数据截至 2021 年 6 月。 codedavinci002：针对代码完成任务优化，最大 Token 数 8001，训练数据截至 2021 年 6 月。 其他模型供应商： 智谱 GLM4V：通用视觉类大模型，拍立得最早使用，接口响应速度快，指令灵活性差些，一个接口支持图片/视频/文本，视频和图片类型不能同时输入，调用成本 0.05 元/千 tokens。 阿里云百炼 qwenvlplus：通用视觉类大模型，拍立得目前使用，指令灵活性丰富，接口调用入门流程长，密钥安全性高，调用成本 0.008 元/千 tokens，训练成本 0.03 元/千 tokens。 阶跃星辰：通用视觉类大模型，响应速度快，支持视频理解，输入成本 0.005 0.015 元/千 tokens，输出成本 0.02 0.07 元/千 tokens。 百度 PaddlePaddle：OCR，垂直小模型，文本识别能力补齐增强，私有化部署服务费，API 调用在 0.05 0.1 元/次。 Claude 3 系列： Opus：最智能，擅长处理复杂任务，输入成本 15 美元/百万 token，输出成本 75 美元/百万 token，上下文窗口 200K token（特定用途 1M token 可用，详情咨询），应用场景包括任务自动化、研发、策略分析等。 Sonnet：平衡，应用场景包括客户服务、内容审核、优化物流等，优势在于速度和成本效益。 此外，Claude 3 系列在设计上注重安全和可靠，持续改进减少模型偏见，提高公正性和中立性，被评定为 AI 安全等级 2（ASL2）。
2025-01-31
layer_xl_bg2ble.safetensors,layer_xl_transparent_conv.safetensors,vae_transparent_encoder.safetensors这一类是大模型,还是Lora?
layer_xl_bg2ble.safetensors、layer_xl_transparent_conv.safetensors、vae_transparent_encoder.safetensors 这类文件可能是大模型的一部分，也可能是 Lora 模型。 在 AI 模型中： 基础模型（英文名 Checkpoint）是生图必需的，任何生图操作必须要选定一个基础模型才能开始。 Lora 是低阶自适应模型，可以理解为基础模型的小插件，生图时可有可无，但在控制面部、材质、物品等细节方面有明显价值。 同时，VAE 是个编码器，功能类似于滤镜，可调整生图的饱和度。
2025-01-31
deepseek的多模态大模型？
DeepSeek 发布了大一统模型 JanusPro，将图像理解和生成统一在一个模型中。以下是关于该模型的一些重要信息： 最新消息：DeepSeek 深夜发布该模型，它是一个强大的框架。 特点： 统一了多模态理解和生成，通过将视觉编码解耦为独立路径解决先前方法的局限性，利用单一的统一 Transformer 架构进行处理，缓解了视觉编码器在理解和生成中的角色冲突，增强了框架的灵活性。 超越了之前的统一模型，匹配或超过了特定任务模型的性能，其简单性、高灵活性和有效性使其成为下一代统一多模态模型的有力候选者。 规模：提供 1B 和 7B 两种规模，适配多元应用场景。 开源及商用：全面开源，支持商用，采用 MIT 协议，部署使用便捷。 测试案例： 模型直接支持中文交互（图像理解+图像生成）。 云上 L4 测试，显存需 22GB。 图像生成速度约 15s/张。 图像理解质量方面，文字和信息识别基本准确，内容理解完整清晰，局部细节有欠缺。 Colab（需 Pro，因需 20GB 以上显存）：https://colab.research.google.com/drive/1V3bH2oxhikj_B_EYy5yRG_9yqSqxxqgS?usp=sharing 模型地址： 7B 模型：https://huggingface.co/deepseekai/JanusPro7B 1B 模型：https://huggingface.co/deepseekai/JanusPro1B 下载地址：https://github.com/deepseekai/Janus
2025-01-30
怎样构建一个自己专业的AI小模型
构建一个自己专业的 AI 小模型可以参考以下步骤： 1. 搭建 OneAPI：这是为了汇聚整合多种大模型接口，方便后续更换使用各种大模型，同时了解如何白嫖大模型接口。 2. 搭建 FastGpt：这是一个知识库问答系统，将知识文件放入，接入上面的大模型作为分析知识库的大脑，最后回答问题。如果不想接到微信，搭建完此系统就可以，它也有问答界面。 3. 搭建 chatgptonwechat 并接入微信，配置 FastGpt 把知识库问答系统接入到微信，建议先用小号以防封禁风险。若想拓展功能，可参考 Yaki.eth 同学的教程，里面的 cow 插件能进行文件总结、MJ 绘画等。 部署和训练自己的 AI 开源模型的主要步骤如下： 1. 选择合适的部署方式，包括本地环境部署、云计算平台部署、分布式部署、模型压缩和量化、公共云服务商部署等，根据自身的资源、安全和性能需求进行选择。 2. 准备训练所需的数据和计算资源，确保有足够的训练数据覆盖目标应用场景，并准备足够的计算资源，如 GPU 服务器或云计算资源。 3. 选择合适的预训练模型作为基础，可以使用开源的预训练模型如 BERT、GPT 等，也可以自行训练一个基础模型。 4. 针对目标任务进行模型微调训练，根据具体应用场景对预训练模型进行微调训练，优化模型结构和训练过程以提高性能。 5. 部署和调试模型，将训练好的模型部署到生产环境，并对部署的模型进行在线调试和性能优化。 6. 注意安全性和隐私保护，大模型涉及大量数据和隐私信息，需要重视安全性和合规性。 大模型的构建过程包括： 1. 收集海量数据：像教孩子成为博学多才的人一样，让模型阅读大量的文本数据，如互联网上的文章、书籍、维基百科条目、社交媒体帖子等。 2. 预处理数据：清理和组织收集到的数据，如删除垃圾信息，纠正拼写错误，将文本分割成易于处理的片段。 3. 设计模型架构：为模型设计“大脑”结构，通常是一个复杂的神经网络，如使用 Transformer 架构。 4. 训练模型：让模型“阅读”提供的数据，通过反复尝试预测句子中的下一个词等方式，逐渐学会理解和生成人类语言。
2025-01-29
现在最好的AI大模型
目前较为出色的 AI 大模型包括： 1. GPT4（免费可用）：是 OpenAI 在深度学习规模扩大方面的最新里程碑，是一个大型多模态模型，在各种专业和学术基准测试中表现出与人类相当的水平。 2. Midjourney v5（免费）：具有极高的一致性，擅长以更高分辨率解释自然语言 prompt，并支持像使用 tile 这样的重复图案等高级功能，能生成令人惊叹的逼真 AI 图像。 3. DALL·E 3（免费可用）：代表了生成完全符合文本的图像能力的一大飞跃，能轻松将想法转化为极其精准的图像。 4. Mistral 7B（免费）：是一个具有 73 亿参数的模型，在所有基准测试上超越了 Llama 2 13B，在许多基准测试上超越了 Llama 1 34B，在代码任务上接近 CodeLlama 7B 的性能，同时在英语任务上表现良好。 此外，在主要的大语言模型方面： 1. OpenAI 系统：包括 3.5 和 4.0 版本，3.5 模型在 11 月启动了当前的 AI 热潮，4.0 模型功能更强大。微软的 Bing 使用 4 和 3.5 的混合，通常是 GPT4 家族中首个推出新功能的模型。 2. 谷歌：一直在测试自己的人工智能 Bard，由各种基础模型驱动，最近是一个名叫 PaLM 2 的模型。 3. Anthropic 发布了 Claude 2，其最值得注意的是有一个非常大的上下文窗口。
2025-01-29
你好，你是什么模型？
您好，我是一名 AI 知识专家，能够为您提供全面的 AI 知识指导和解答相关问题。 关于模型方面的知识： LoRA 和 LyCORIS 都属于微调模型，常用于控制画风、生成的角色、角色姿势等。它们的后缀均为.safetensors，体积较主模型小，一般在 4M 300M 之间，使用 LoRA 模型较多，LyCORIS 可调节范围更大，现在 SD 已内置。在 WebUl 中使用时，可在 LoRA 菜单中点击使用，也可直接使用 Prompt 调用。 在 Tusiart 中，首页有模型、帖子、排行榜，展示了大手子炼成的模型和图片。生图必需基础模型（Checkpoint），任何生图操作必须选定一个 Checkpoint 模型才能开始，lora 是低阶自适应模型，可有可无，但对细节控制有价值。ControlNet 可控制图片中特定图像，VAE 类似于滤镜调整生图饱和度，选择 840000 即可。Prompt 提示词是想要 AI 生成的内容，负向提示词是想要 AI 避免产生的内容。还有图生图，即上传图片后 SD 会根据相关信息重绘。 如果您想搭建类似的群问答机器人，可以参考以下内容：
2025-01-28
如何根据虑库存水平、需求预测、补货成本、库存持有成本等因素，使用线性规划、动态规划、随机优化等方法来调整库存结构呢
很抱歉，目前没有关于如何根据您提到的库存水平、需求预测、补货成本、库存持有成本等因素，使用线性规划、动态规划、随机优化等方法来调整库存结构的具体内容。但我可以为您提供一些一般性的思路和步骤： 首先，需要对库存水平、需求预测、补货成本和库存持有成本等数据进行详细的收集和分析。 对于线性规划方法，您可以建立一个目标函数，例如最小化总成本（包括补货成本和库存持有成本），同时满足库存水平和需求预测的约束条件。通过求解这个线性规划问题，得到最优的库存调整策略。 动态规划则是将问题分解为多个阶段，在每个阶段根据当前状态和决策选择来优化未来的结果。在库存调整中，可以根据不同时期的库存和需求情况，逐步做出最优决策。 随机优化适用于需求存在不确定性的情况。您可以建立概率模型来描述需求的不确定性，然后通过优化算法找到在不确定性条件下的最优库存策略。 不过，具体的应用和实现需要根据您的实际业务情况和数据特点进行深入研究和定制化的建模。
2025-01-06
目前最前沿的应用在游戏领域的AI技术点是什么，包括游戏开发过程中的成本降低、效率提升，包括游戏内容生成，包括游戏后期运营推广。介绍技术点的技术逻辑以及技术细节。
目前在游戏领域应用的前沿 AI 技术点主要包括以下几个方面： 1. 利用 AIGC 技术实现游戏产业的生产力革命： 降低开发成本：借助人工智能的内容创作工具，如生成新的游戏内容（地图、角色和场景）、驱动游戏中的非玩家角色（NPC）、改进游戏的图像和声音效果等，能够缩减游戏开发的成本。 缩短制作周期：例如通过程序化内容生成，包括利用人工智能生成文字、图像、音频、视频等来创作游戏剧本、人物、道具、场景、用户界面、配音、音效、配乐、动画和特效等，从而减少游戏开发时间。 提升游戏质量和带来新交互体验：AIGC 技术为游戏带来不同以往的新体验，甚至创造出新的游戏类型以及新的交互方式。 2. 游戏内容辅助生成： 生成文、生成图、生成 3D 以及生成音乐。应用场景包括游戏策划人和制作人、美术设计师等。 对于工业化的游戏公司，基于 Stable Difussion 的生成能够通过 2D 美术素材的辅助生成提高创业效率 50%，降低 20%80%的成本。 文生图：通过提示词加参数就可以形成 2D 的参考图，适配度高。 图生图：原画师或美术可以使用，用一个线稿或原画，在原画基础上加一些 Prompt 和参数，就可以形成一个效果图和二级的素材。 动画辅助渲染：用 Lora 对角色背景、关键帧进行风格渲染，例如将真人视频渲染成二次元风。 3. 游戏的智能运营： 智能 NPC 互动：保持长期记忆，保持人物个性和对话表现形式，同时满足成本平衡。 客服、攻略的问答、代码和脚本的生成。主要针对游戏的产品经理、运营经理和社区的运营经理。 游戏社区运营：如海外的 Discord，国内的 Fanbook，让更多玩家在游戏之外，在社群里面很好地互动，基于游戏的美术素材进行二创、查询攻略和使用智能客服。 这些技术的技术逻辑和技术细节如下： 1. AIGC 技术：基于大语言模型和扩散模型，通过机器学习、强化学习等先进技术进行训练，能够理解和生成各种游戏相关的内容。 2. 游戏内容辅助生成：利用深度学习算法对大量的游戏相关数据进行学习和分析，从而能够根据给定的提示或参数生成相应的游戏内容。 3. 智能运营方面：通过构建智能模型，对玩家的行为和需求进行分析和预测，从而提供个性化的服务和互动。
2024-12-22
目前最前沿的应用在游戏领域的AI技术点是什么，包括游戏开发过程中的成本降低、效率提升，包括游戏内容生成，包括游戏后期运营推广。
目前在游戏领域最前沿的 AI 技术点主要包括以下几个方面： 1. 探索将游戏环境中的成果迁移至现实世界：电子游戏作为人工智能算法的测试场，为人工智能模型的构建与训练提供了理想化的场所。但将游戏中的技术推广到现实世界应用仍面临诸多挑战。 2. 利用 AIGC 技术实现游戏产业的生产力革命： 借助人工智能的内容创作工具，降低开发成本、缩短制作周期、提升游戏质量和完成度，带来新体验，创造新游戏类型和交互方式。 应用于电子游戏开发的多个方面，如生成新的游戏内容（地图、角色和场景）、驱动游戏中的非玩家角色（NPC）、改进游戏的图像和声音效果等。 3. 为通用人工智能的孵化提供帮助：经过多个复杂游戏训练后的“玩游戏”的人工智能体。 4. 借助人工智能完成大型游戏的制作：如《微软模拟飞行》通过与 blackshark.ai 合作，利用人工智能从二维卫星图像生成无限逼真的三维世界，且模型可随时间改进。 5. 生成式人工智能模型在游戏资产中的应用：出现了用于游戏中几乎所有资产的生成式人工智能模型，包括 3D 模型、角色动画、对话和音乐等。 6. 降低游戏制作的内容成本：整合生成式 AI 可大幅降低制作游戏的时间和成本，例如为一张图片生成概念图的时间从 3 周下降到 1 小时。
2024-12-22
大模型成本趋势
大模型的成本趋势如下： 目前存在唱衰大模型的观点，认为其难以找到可商用场景，部分功能存在幻觉问题，且算力成本高，导致商业模式难以形成闭环。 但也有观点认为，关于算力成本，已有许多解决方案，如模型蒸馏、苹果的端云方案等，今年内算力成本问题有望不再是难题。 对于不同规模的模型，小模型在某些特定应用中有其优势且足够好用，但大模型会解锁新的有价值的应用程序。不过并非所有应用都能证明大模型的成本合理。 在多模态大模型方面，随着数据集和模型规模扩大，传统模型带来巨大计算量。研究人员利用现成训练好的单模态基础模型，可减少多模态训练费用、提升效率。不同模态模型分开训练，如何实现模态连接和协同推理是核心挑战。
2024-12-19
我需要制作一个低成本刷航段的规划智能体
很抱歉，目前没有关于制作低成本刷航段规划智能体的相关内容。但一般来说，要制作这样的智能体，您可能需要考虑以下几个方面： 1. 数据收集：收集有关航班、票价、航线等相关信息。 2. 算法设计：运用合适的算法来优化航段选择和成本计算。 3. 规则设定：明确刷航段的规则和限制，以确保合法合规。 4. 成本评估：准确评估各种方案的成本，包括机票价格、附加费用等。 由于缺乏具体的案例和详细信息，以上只是一些初步的建议，希望能对您有所帮助。
2024-12-07