同一个模型,走官方直连、走聚合平台、走中转站,账单可能差出一截;接口长得一样,收费口径却不一样。很多人是在月底对账时才发现的。这篇不列具体价格,只讲怎么读懂自己的用量结构、哪几种情况说明该换档、哪几种情况其实不用动,最后给一份可以照着走的核对顺序。
同一个模型,官方直连、聚合平台、中转站三种走法,接口长得一模一样,账单却可能差出一截。很多人是月底对账才发现的:请求数没涨多少,费用上去了。问题往往不在单价,而在你根本没分清自己付的是哪一层的钱。
这篇不列任何具体数字——价格变动太快,写死的都会过期。只讲怎么读懂自己的用量结构、哪几种信号说明该换档、哪几种其实不用动,最后给一份能照着走的核对顺序。看完你至少能回答一个问题:我多花的钱,到底花在哪。
兼容接口的收费到底由哪几层叠起来
先把账单拆成三层。第一层是模型本身的 token 单价,输入和输出分开算,这层最透明。第二层是平台加的服务费或倍率,有的写成折扣倍率,有的直接折算进单价里,你不仔细看合同看不出来。第三层最容易被忽略:并发和限速带来的隐性成本,排队、超时重试、失败重发,每一次都在烧钱,但不体现在单价表上。
兼容只是协议形状一致,计费口径各平台自定。同一个请求打到不同来源,计费单位可能就不一样——按 token、按字符、按次,图片和缓存命中是否单独计价也各说各话。你拿两个平台的单价直接对比,很可能比的根本不是同一个东西。
- 第一层:模型单价
- 输入、输出分开计,通常输出更贵,这层看官方按量价最准
- 第二层:平台倍率
- 服务费、折扣、打包价都藏在这层,要看结算规则而不是宣传页
- 第三层:隐性成本
- 排队、重试、失败重发,单价表上不写,账单里真实存在
要核对第一层,去站内官方 API 资料库对当时的按量价;要看第二、三层的真实表现,去中转站目录和可信度排行看检测结论,别只信对方自己的报价页。
先量自己的用量结构,再谈贵不贵
在讨论换不换档之前,先把自己的用量拆开。最基础的一刀是输入和输出:长回答场景里输出占比一高,总价就压不住,因为输出单价普遍更贵。第二刀是缓存命中比例,同样的系统提示词反复发送,命中缓存和不命中,实际支出能差出不少。第三刀是重试比例,这个数字最能暴露限速问题。
这三个数字都不难拿,从网关日志或应用日志里导出近一周的请求记录就能算。麻烦的是很多人直接拿官网示例价乘调用次数做预算,示例请求又短又规整,跟自己真实的长提示词完全不是一回事,估出来的数没有参考价值。
- 按模型分组,分别统计输入 token 和输出 token 的占比
- 算缓存命中率:同一段系统提示词重复发送的次数占多少
- 算重试率:失败后重发的请求占总请求的比例
- 标出最长的那几条请求,看是不是自己把整份文档塞进了上下文
- 用真实请求样本跑一遍成本估算,别用官网示例价
站内有 token 价格计算器和模型成本计算器,把你的真实请求样本丢进去跑一遍,比拍脑袋估算靠谱得多。跑完你会对「贵不贵」有个自己的判断,而不是被单价数字带着走。
什么情况下该考虑升档,什么情况下别动
该考虑升档的信号有三个,都很具体。一是稳定触及限速,日志里能看到规律性的排队和重试,这说明你付的钱有一部分浪费在等待上。二是单次任务的上下文经常被截断,被迫拆成多轮重发,每多一轮就多付一次钱。三是低价档在关键任务上返工率明显偏高,输出不能用、要重跑,省下的单价全赔进去了。
不该升的信号也很明确:账单高,但主要来自自己写的超长提示词,或者无差别全量塞上下文。这类问题换档只会更贵,因为单价上去了,浪费的量一点没少。先改调用方式——精简提示词、做缓存、按需检索,比换档有效得多。
| 现象 | 判断 | 下一步 |
|---|---|---|
| 日志里规律性排队重试 | 该升档 | 小流量切一档验证一周 |
| 上下文频繁截断、多轮重发 | 该升档或换长上下文方案 | 先算重发带来的额外 token 量 |
| 输出经常不能用要重跑 | 该升档 | 对比返工成本和单价差额 |
| 账单高但提示词超长 | 别动 | 先精简提示词、加缓存 |
| 用量很小、业务还在验证 | 别动 | 换更便宜的模型试跑即可 |
有一种情况上面两类都不适用:用量本身很小,或者业务还在验证期、没有稳定的调用曲线。这时候升档基本是浪费,你连自己的真实用量结构都没摸清,换档只是换个地方花钱。先跑够样本再谈。
一份可以照着走的核对顺序
下面这套顺序,是给已经决定要认真对一次账的人准备的。四步走完,该不该换档基本就有答案了。每一步都有可验证的产出,不是走个过场。
- 导出请求记录从网关或应用日志导出近一周记录,按模型、输入长度、输出长度、是否重试分组;验证方法:分组后的总请求数要能对上账单里的调用次数
- 同批样本比价拿同一批真实请求分别问两家来源的价,重点确认计费单位是否一致(按 token、按字符、按次);验证方法:两边的计费单位说明要能逐条对上,对不上就别直接比
- 算月差额把单价差值乘上真实调用量,得到月差额,再和升档后能省下的重试与返工成本对比;验证方法:差额算完要能回答「换档到底划不划算」这一个问题
- 小流量验证先切一小部分流量到新档位跑一周,观察失败率和耗时变化;验证方法:一周后对比切换前后的重试率和返工率,没有改善就退回
第三步算差额的时候,别只算单价差。把重试浪费的 token、返工重跑的成本一起算进去,才是真实的账。这一步最容易算错,也最值得花时间。
最后提醒一句:别一次性全量迁移。小流量验证一周,数据说话。如果失败率没降、耗时没改善,说明你判断错了信号,退回原来的档位,损失可控。
下一步拿不准某家中转站的计费口径靠不靠谱,去站内中转站目录看可信度检测结论,再到价格追踪页对当时的实际数字,比对着报价页猜要稳。→常见问题
兼容接口的价格能直接和官方价对比吗?
能比,但要先对齐口径。官方价通常只算模型 token,兼容平台可能叠了服务倍率,还可能对图片、缓存、工具调用单独计费。把两边的计费单位和计费项列出来对齐,再比数字,否则容易得出错误结论。
账单突然涨了但调用量没变,先查哪里?
先看输出长度和重试率。输出变长、失败重发、上下文被反复重传,都会让账单在调用次数不变的情况下上涨。再核对是否换了模型或换了来源,价格口径一变,同样的请求也就不一样了。
小团队有必要为兼容接口单独做成本监控吗?
有必要,但不用做得很重。按天记录请求数、输入输出 token 和失败次数,三列就够看出趋势。等到发现某个月账单明显偏离趋势再去翻日志,成本会高得多。