token计费避坑,多出来的钱基本都在口径上

成本与用量

把 token 计费里最容易算错的口径逐项拆开,给出自查顺序和判断标准,让你能在下单前发现账单会往哪偏。

很多人第一次对账单都会愣一下:明明按字数估过的量,实际扣费却差出一截。问题通常不在单价,而在你没对齐的口径上——输入输出分开算、缓存命中另算、重试也计费、系统提示词每轮都在烧。这篇不列价格,只教你把每一项费用拆开看,给一套能照着走的排查顺序。

第一次对 token 账单发愣,多半不是被单价坑了,是估算的口径和平台记账的口径不是一回事。你按字数除一除,觉得差不多;平台按输入、输出、缓存分项算,再叠加多轮上下文和重试,结果差出一截。这篇不摆价格,只把容易算偏的地方逐个拆开,给一套照着走的排查顺序。

先说结论:想避坑,不要盯着「一个 token 多少钱」看,先把一次调用拆成几笔账,再确认每笔账的计量规则,最后才拿单价去乘。顺序反了,比价再认真也会错。

先把一笔调用拆成四个筐

很多人算账只算「发出去多少字、收回来多少字」,两个数一乘,完事。实际用下来,费用至少分四个筐:输入、输出、缓存命中、缓存写入。这四项单价通常不一样,混着算必然对不上。输出往往比输入贵,长回答、长思考链要单独估,别拿输入的量去套输出的价。

费用筐什么时候产生最容易被忽略的点
输入每次请求带上的提示词、历史消息、文档片段多轮对话里历史会重复计入
输出模型实际生成的正文、思考过程被截断后重发等于再付一遍
缓存命中复用了之前写入的上下文单价低,但前提是内容真的一致
缓存写入第一次把内容写进缓存这次不一定便宜,别只看命中率

拿不准你用的模型落在哪一档,别凭记忆。到站内的 Token 单价换算工具,按当期数字核一遍,把四项单价抄下来再算。判断标准很简单:四项分别乘完加总,和你拍脑袋估的数差得远,就说明哪一项你根本没算进去。

看不见的输入:系统提示词和上下文每轮都在重算

这部分最冤。你把一大段背景资料塞进系统提示词,觉得只写了一次,其实每一轮对话它都跟着输入重新计一遍。聊十轮,它就被算十次。对话越长,单轮成本抬得越高,这不是平台在坑你,是计费本来就按「这一轮实际送进去多少」来。

判断标准:同一份固定内容如果会被反复带上,就该考虑缓存或者外置检索,而不是继续硬塞。不适用的场景也得说清楚——一次性任务、只跑一轮的脚本,缓存写入的这次成本可能反而比省下来的多,别为了「优化」硬上缓存。

  1. 列出重复项把提示词里每轮都不变的部分单独摘出来,看看占输入的比例有多大。
  2. 判断去留固定且量大,走缓存或检索;固定但量小,留着无所谓;会变的,别塞进固定段。
  3. 验证效果改完之后对比两版的输入 token 用量,看降的是不是你以为的那部分。

失败的请求、重试、被截断的输出算不算钱

这条最容易被当成「没成功就不该收钱」。实际用下来,多数平台对已经生成了一部分的请求仍会计费——模型已经跑了一半,算力花出去了。你这边超时重发,等于同一件事跑了两遍,两遍都记在账上。max_tokens 设得过大本身不会多扣,但输出被截断后再补发一次,就是实打实的双份。

排查顺序别搞反:先去用量日志里看失败请求占比,再看重试次数,最后才对单价。顺序颠倒的话,你会花半天研究单价,结果发现钱是重试循环烧掉的。给个具体动作:重试逻辑加退避和次数上限,别让一个报错在夜里循环跑一整晚,早上起来账单吓人。

比价前先把单位换成同一个

比价翻车,十有八九是单位没对齐。每百万 token、每千 token、按次、按字符,四种口径混着比,一定错。中转站还多一层倍率,得先换算成等效单价,才能和官方价放到一张纸上。判断标准:用同一段任务文本,按两家各自的口径各算一遍,差额超过你心里的阈值,再去深究差在哪,别一上来就下结论。

  • 把两家报价都换算成「每百万 token 等效价」再比,别拿按次和按 token 直接对
  • 中转站的倍率单独记一行,别和单价揉在一起算
  • 同一段任务文本喂给两套口径,看总账差多少
  • 拿不准的当期数字,去站内官方 API 价格页和中转站排行榜核对,别凭记忆

这一步不适用的情况:如果你的调用量小到可以忽略,花一小时换算单位可能不值。量大的、长期跑的,才值得把口径钉死。

下单前十分钟自查清单

前面的都拆完了,最后落到动作上。这张清单照着走一遍,基本能发现账单会往哪偏。花十分钟,比事后对着账单猜半天划算。

  1. 估三个数这次任务的平均输入长度、平均输出长度、调用次数,先写下粗估值。
  2. 标重复项哪些内容会被重复带进上下文,能不能缓存或改成外置检索,逐条标注。
  3. 算隐性开销确认失败率和重试策略,把重试这部分单独估一笔,别当它不存在。
  4. 分项加总四项费用分别乘单价再加总,和平台预估放一起比;差得多就回查哪一项估错了。

清单不适用的情况也说一句:只跑一次、量极小的任务,逐项拆的收益有限,估个大概就行,别为了精确把时间搭进去。

下一步把这次要用的模型单价、缓存规则、失败计费口径在站内一次性核对清楚,再动手下单。

常见问题

为什么我按字数估的费用和实际扣费差很多?

字数换算成 token 本身就有偏差,中文尤其明显;再加上输出单价通常更高、历史上下文每轮重复计费、失败重试也计费,几项叠加就会拉开差距。建议直接看用量日志里输入和输出各自的 token 数,别从字数倒推。

缓存命中率高就一定省钱吗?

不一定。缓存写入那一次可能按更高单价计费,如果同一份内容只用一两次就换掉,写缓存的成本收不回来。判断标准是这段固定内容会被复用多少次,复用次数少就别开缓存,直接传反而更省。

被限速或者超时之后重发,会重复扣费吗?

只要服务端已经开始生成,通常就会计入用量,哪怕你这边没收到完整结果。所以重试要加次数上限和退避间隔,并区分「连接失败」和「生成中断」——前者一般不计费,后者大概率计了。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。