大模型Token计费模式避坑:多花的钱多半漏在这几处

成本与用量

把输入输出分开计价、缓存命中、阶梯与倍率这几类计费模式的坑逐条拆开,给出签约前的对照清单和自查动作。

读者搜「Token计费模式避坑」,多半不是想学定义,而是账单出来发现比预估高了一截,又说不清高在哪。这篇不背价格,只讲判断标准:哪些计费口径容易混、混了之后会多算什么、签合同或接中转之前该拿哪几项去核对。看完你至少能判断自己这单活属于哪种计费结构,以及什么情况下这套判断不成立。

账单比预估高,骂计费方式黑是没用的。多数情况是自己算的时候把口径搞混了:拿一个单价去乘总量,或者把预扣当成实花,或者拿中转倍率直接和官方单价对砍。这篇不背价格,只讲哪些地方容易混、混了之后多算了什么、签合同或充钱之前该拿哪几项去核对。

看完你至少能判断手上这单活属于哪种计费结构。判断不了也很正常——按次、按张、按秒计费的产品,下面这套token拆分的思路就得换掉,别硬套。

输入和输出分开报价,是最常见的第一处误判

同一家厂商对输入和输出定的是两种单价,输出普遍更贵。很多人记一个「每百万token多少钱」就去估,遇到长输出任务必然算低。这事儿麻烦在它不报错,你只是少看了预算。

做法很朴素:把一次任务拆成「喂进去的上下文」和「模型写出来的内容」两段,各自乘对应单价再相加。别用平均数代替,平均数在这种双单价结构里没有意义。提示词很长、输出很短的场景,和反过来,算出来的结构完全不一样。

缓存命中率决定同一段提示词的重复成本

同样的系统提示词反复发送,命中缓存和没命中走的是两套价。差多少别用我这里的说法,到 /price-watch 核对当时的数字,各家的落差不一样,而且会调。

自查别凭感觉。去翻用量日志里缓存读、缓存写那几列,如果命中率长期很低,先查是不是每次请求都把提示词开头改动了——改一个字,前缀就变了,缓存自然不命中。实际用下来,这类「无意改动」比模型本身的问题更常见。

  • 缓存有生效条件和有效期,不是开了就一直有
  • 改前缀、换模型、跨区域调用都可能让缓存失效
  • 把缓存读写单独列一列成本,别混进总单价里估
  • 命中率低的先查提示词开头是否稳定,再查调用链路

阶梯价、时段折扣和中转倍率,别混着比

官方按量阶梯、限时折扣、中转站倍率,是三种不同的东西。把中转的低倍率直接和官方单价对比,很容易得出反的结论。中转的倍率通常是在某个基准价上乘的,基准价本身可能已经变了。

要比的东西先对齐的口径没对齐会怎样
官方阶梯价按同一时间段、同一用量档拿低档单价算高档用量,低估
限时折扣看折扣是否覆盖你的调用时段按折扣价做全年预算,偏高
中转倍率确认倍率乘的基准价是哪一版倍率低但基准高,实际没便宜
缓存计价区分命中与未命中两套价全按未命中算,成本虚高

什么情况不适用:中转倍率低但延迟高、可用性差,省下的钱可能抵不上返工。这时候价格不是唯一变量,得把稳定性和响应时间一起放进对照表。

预扣和结算的差额,是账单对不上的主要来源

不少平台先按上限预扣额度,调用完再结算退回。余额看着掉得快,不代表真花了这么多。把预扣当实际消费去反推单价,算出来的成本会系统性偏高,然后你就开始怀疑计费方式有问题。

  1. 拉三条流水充值记录、预扣流水、结算流水,按天对齐。别按周,误差会被摊平看不出问题。
  2. 找差额集中的日子哪几天预扣和结算对不上,重点看那几天的调用类型,是不是有长任务或重试。
  3. 确认失败请求怎么算超时、报错、被限流的请求是否计费,去协议或控制台说明里找,找不到就问。

签字或充值之前,这几项要落实成文字

口头说的都不算数。下面这几项,能写进合同或控制台设置里的就写,写不进的至少留个截图或聊天记录。不是防谁,是后面调价的时候有个依据。

  • 计价单位:按token、按次还是按张,单位不同就不能横向比
  • 输入输出是否分开计价,各自单价怎么查
  • 缓存是否单独计价,命中条件是什么
  • 重试、失败、超时请求怎么计费
  • 调价提前多久通知,历史调用按哪个价结算

最后一句实话:这套判断在你调用结构稳定的时候最管用。如果业务本身在快速变,模型、提示词、调用量每周都在动,那就别做太精细的单价测算,改成按周对账、发现异常再回头查那一天。

下一步把手上正在用的几家中转和官方渠道,拉到同一张对照表里对齐口径再比价,别只比一个数字。

常见问题

为什么我按单价乘token数,算出来总是比账单低?

最常见的原因是只用了输出单价或者平均数,而实际请求里输入占了很大一部分,且输入输出是分开计价的。另外缓存未命中的部分、重试产生的请求也会计费。建议按『输入、输出、缓存读写』四段分别乘单价再加总,和账单逐日对一遍。

中转站倍率低,就一定比官方便宜吗?

不一定。倍率只是计费系数,还要看它到底按哪家的单价作为基数、输入输出是否同样拆分、缓存算不算。有些低倍率是把输出来回折算过的,实际跑长输出任务反而更贵。做法是拿同一段请求在两边各跑一遍,用真实用量对账,而不是只看倍率数字。

什么情况下这套避坑思路不适用?

当你用的是订阅制或者包月套餐,额度按次数或折算额度扣,不按token逐笔计价时,输入输出拆分这套方法就没用了。这时候要换成看额度口径和重置规则,去站内的编程套餐和订阅地区价页面核对当期规则。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。