大模型Token计费模式怎么排查,多出来的钱多半卡在这三处口径

成本与用量

给一套按顺序排查大模型Token计费模式的方法:先分清输入输出与缓存口径,再核对倍率和账单条目,最后用用量日志定位偏差来源。

账单比预估高一截,第一反应往往是怀疑平台算错、想换服务商或者重装 SDK。多数时候问题不在代码,而在你没分清这家到底按什么口径扣钱:输入和输出是不是一个价、缓存读写算在哪一栏、中转站的倍率乘在哪一层。这篇按排查顺序走一遍,每步都告诉你看哪里、什么情况下这条不适用。

账单比预估高一截,第一反应往往是怀疑平台算错、想换服务商,或者干脆把 SDK 卸了重装。多数时候问题不在代码,而在你没分清这家到底按什么口径扣钱。输入和输出是不是一个价,缓存读写算在哪一栏,中转站的倍率乘在哪一层,这三处只要有一处理解偏了,对出来的账就永远差一截。

下面按排查顺序走一遍,每步都告诉你先看哪里、拿什么去对、什么情况下这条不适用。不用从头读到尾,哪一步对得上就停在哪一步继续挖。

先分清你在对哪本账

排查计费模式的第一步不是看单价,是确认这笔钱属于哪一类。按量扣费、订阅额度折算、中转站余额扣减,这三本账的对账入口完全不一样,拿按量的算法去套订阅制的账,怎么算都是错的。

按量扣费
有明确的输入、输出单价,账单能拆到每次调用,去官方 API 价格页核对当时的数字
订阅额度折算
付的是固定周期费用,平台把额度按某个折算率换成用量,去编程套餐页看额度怎么换算
中转余额扣减
从预充余额里按倍率扣,账单上看到的是余额变化,得去站点自己的倍率说明页看规则

判断依据其实很土:看账单里出现的是哪个词。出现「请求次数」「额度」,你面对的是订阅或套餐那本账;出现「余额」「充值」「扣减」,多半是中转的账;能逐条列出输入输出 token 的,才是标准按量账。三种词混在一张账单里,说明这家把多层计费揉一起了,得拆开看。

输入、输出、缓存这三栏对不上,单价再准也白搭

同一家厂商输入价和输出价经常差好几倍。长回答、长思考链、代码生成这类任务,输出占比高得吓人,你拿输入单价去估,估出来的数自然偏低。先翻你的调用记录,看看输出 token 在总量里占多大比例,这一步决定了后面该重点盯哪一栏。

缓存这块更容易踩坑。缓存分写入和读取两种,有的平台写入按更高价算、只有读取才便宜。命中率低的时候,你等于多付了写入的钱又没享受到读取的折扣,整体反而更贵。开了缓存参数却不看命中率,是最常见的误判之一。

做法是把一次典型请求拆成四栏:普通输入、缓存读、缓存写、输出,分别乘对应单价再相加,然后和账单条目逐个对。差额出现在哪一栏,问题就在哪一栏。纯文本短问答、压根没开缓存参数的调用,缓存这栏可以直接跳过,别硬套。

倍率乘在哪一层,决定了你比价时该拿哪个数

官方价、渠道价、中转站倍率,这是三层东西,不能混在一张表里直接比。中转站常见做法是「官方价乘一个倍率」,也有按固定汇率折算的,两种算法算出来的结果不一样,你把两种算法得出的数并排放,比出来的结论基本没用。

你看到的数实际含义比价时该拿什么去对
官方页面单价厂商直接挂牌价只适合和官方直连比
渠道报价可能是批量折扣后的价问清是否含倍率
中转站展示价官方价乘倍率后的结果确认倍率乘在输入、输出还是最终金额
账单实扣金额所有层算完的最终数只能用同结构账单互相对照

排查时先问一句:这个倍率乘的是输入价、输出价,还是乘在最终金额上。三者结果差很多。低倍率也不等于便宜,如果它的计费单位或者缓存口径跟官方不同,算下来可能更贵。只用官方直连、不碰任何中转渠道的话,这一整节可以略过。

用用量日志把偏差定位到具体一次调用

前面几步只能告诉你「哪一栏可能错了」,要定位到具体哪次调用,得靠日志。挑一天做样本,导出每次调用的时间、模型、输入 token、输出 token、是否命中缓存,和账单当天总额对一遍。

  1. 导出当天全量调用记录至少包含时间、模型、输入输出 token 五个字段,缺一个后面就对不上账。
  2. 按请求排序找大额差额集中在少数几条大请求上,多半是长上下文或输出过长;均匀分布则更像单价或倍率整体算错。
  3. 单独拎出失败和重试重试和失败请求要不要计费各家规则不同,把失败率高的时段单独算一次,看能不能解释差额。
  4. 固定记录字段把这几个字段做成固定模板,下次对账直接对比,不用从零翻起。

实际用下来,日志这步最费时间但最值。没有它,你只能在单价和倍率之间来回猜;有了它,多数偏差一次就能落到某类请求上。

什么时候别继续排查,直接换方案

有些情况不值得继续抠。明细拿不到、客服说不清计费单位,这种平台你继续用下去,每次对账都要从头来一遍,时间成本早就超过省下的那点钱。与其研究口径,不如换一家明细清楚的。

还有一种是用量结构的问题,不是计费口径的问题。你的调用已经明显偏输出密集型,那再抠输入价也没意义,去模型库横向看输出价更合适的模型,比在现有平台上折腾划算。预算敏感的长跑任务,先上预算告警卡住上限,比事后查账省事得多。这些判断的前提是你已经拿到了明细,连明细都没有,先解决上一步。

下一步手上有账单但对不上口径,先去价格页核对当时的单价,再拿中转站倍率说明对照,多数差额当场就能定位到哪一层。

常见问题

账单比我自己按单价算的高,是不是平台多扣了?

先别下这个结论。八成是口径没对齐:输出 token 比你估的多、缓存写入按更贵的价算、或者倍率乘在最终金额上。拿一天的用量日志拆成输入、输出、缓存三栏重算一遍,多数差额能对上。对不上再去找平台要明细。

中转站的倍率和官方价格怎么放在一起比?

不能直接比。先确认倍率乘在哪一层:乘单价、乘总金额,还是按固定汇率折算。把同一段请求分别在官方价和中转价下算成最终金额,再比才有意义。低倍率但计费单位不同的,算下来常常不便宜。

缓存到底有没有帮到我?

看命中率,不看有没有开。缓存读取便宜,但写入往往按更高价算,命中率低的时候整体成本可能反而上升。把开了缓存和没开的两段时间的日均成本对比一下,涨了就说明你的请求重复度不够,不适合开。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。