大模型的成本主要通过 token 数量来计算。普通常见单词使用一个 token,不常见单词可能被拆分从而消耗更多 token。一般 300 个单词约需 400 个 token,token 消耗通常比单词数多出 33%左右。
以 GPT 为例,一个成年人一小时阅读约 30000 个词,按转化率约需 40000 个 token。GPT3.5 每 1000 个 token 需 0.002 美元,供成年人阅读使用 1 小时消耗 0.08 美元(8 美分);GPT4 则需 2.4 美元。
在搭建 AI 微信聊天机器人方面,极简未来平台的费用取决于使用的大模型和调用次数,按 Token 数量计费。如使用 GPT-3.5 模型每次对话大约消耗不到 20 积分,平台有签到免费领积分福利,也可充值,19 元可兑换 10000 积分,能满足日常使用好几个月。
token,通常指的是:文本中可以被视为一个单独单位的元素,比如单词、数字或符号。如图所示,普通常见单词,使用一个token,但是不常见的单词可能被计算机拆分,于是会消耗更多的token.如果需要使用300个单词,大概会使用400个token.一般token消化会比单词书多出33%左右。价格举例:计算举例:一个人每分钟阅读250个词,一小时可以阅读15000个词;但因为需要输入以后才有输出,所以文本输入假设与文本输出相同,那输入同样需要15000个词;输入与输出一共需要30000个词,按照转化率,约需要40000个token;按每1千个token需要0.002美元来看,GPT3.5供一个成年人阅读使用1小时,消耗0.08美元即8美分;当然如果变成GPT4,费用就变成了2.4美元[heading4]检索增强生成(RAG)[content]普通的聊天机器人,在提问这里有供员工停车的地方时,会请求更多的信息。而RAG聊天机器人,会搜索相关文件并给出答案。为什么?RAG分三个步骤第一步,给出答案后,搜索相关文件找寻答案第二步,将检测到的文件文本合并到更新的提示词中第三步,通过增加的内容来生成对应的答案(有时会直接展示链接文件供用户参考)现有许多应用软件中,可以提交PDF文档,阅读网址信息等,用户直接提问AI工具从而获得信息大模型有非常多的通用知识,但并不知道所有事。通过提供相关的信息,可以要求大模型处理信息并给出答案将大模型作为推理引擎来处理信息而不是知识库
A10:极简未来平台的费用主要取决于使用的大模型和调用次数。具体费用是按照Token数量计算的,不同的大模型能力,所需的Token数不同。例如,使用GPT-3.5模型的每次对话大约消耗不到20积分。平台还提供了每天签到免费领取积分的福利,用户可以通过签到免费获得50到几百积分。除此之外,充值19元可以兑换10000积分,这些积分足够日常使用好几个月了。所以,实际使用成本并不高。Q11:服务器的费用如何?A11:腾讯云的轻量应用服务器价格非常划算,尤其是新用户优惠活动。例如,一个2核2G3M的服务器套餐一年只需82元,当然新用户优惠过后可能之后的续费费用会贵一点,100多到几百一年不等。这使得即使是技术小白也能低成本试错,体验在云端部署和运行服务的乐趣。Q12:宝塔面板和Docker的使用费用如何?A12:宝塔面板有免费和付费版本,免费版已经提供了足够多的功能,完全可以满足本教程的需求。Docker是开源免费的,使用Docker部署和管理应用不会产生额外费用。Q13:如果技术小白担心不会运维服务器和服务,该怎么办?A13:对于技术小白来说,运维服务器和服务可能看起来有些复杂,但以下几点可以帮助解决这个问题:
其实机器人应用背后使用到的大模型等能力都是需要付费,先给你看看目前平台的计费规则:详细版的计费规则在这里-https://docs.link-ai.tech/platform/funds/price其实AI大模型相关的功能交互,主要都是用Token来作为单位的,不同的大模型能力,平台一积分能兑换到Token数是不同的,能力越强的大模型一积分所能兑换到的Token数就越少,像我日常使用的GPT 3.5能力的大模型,平均每次对话大概都会消耗不到20积分:除了每天平台的签到可以免费领取50到几百的积分,而充值的话,目前是可以19元兑换10000积分,说实在的,我充了这个一次,已经够我使用好几个月了,所以大模型的使用成本其实不算高了...