很多人第一次算大模型开销,是拿一个单价乘用量,结果月底账单对不上。问题多半不在单价,而在计费模式:输入和输出不同价、缓存命中另算、批量任务走另一套折扣、订阅包和按量调用各管一段。这篇给一套下单前的核对顺序,让你在选型和估算时少踩这几处。
第一次给大模型做预算,十有八九会算错。错的地方通常不是单价看错了,而是把不同计费模式当成同一种东西在比。输入和输出不是一个价,缓存命中走另一档,批量任务有自己的一套折扣,订阅包和按量调用根本就是两本账。拿着一行单价乘总用量,月底对不上很正常。
这篇不背数字,数字会变。给一套下单前的核对顺序,你把自家用量填进去,照着走一遍,能避开最常见的几处多花钱。
先分清你在比对的是哪一套计费模式
按量调用最直观,看百万 token 单价就行。但输入价和输出价一般分开列,输出往往更贵。你要是拿一个综合单价去乘总量,估算会偏。正确做法是按自己业务里输入输出的大致比例加权,比如客服问答和长文摘要,这个比例差很远。
缓存、批量、订阅各有各的口径。拿它们的价格跟按量单价直接比大小,没有意义。要比,只能在同一种模式下比两个方案,跨模式比只会得出错误结论。
- 按量调用:输入输出分开计价,估算要按实际比例加权,不能只看一个数
- 缓存:命中与未命中是两档价,还有单独的缓存写入计价
- 批量:走异步通道,价格更低但要等结果
- 订阅:给的是额度或折算量,超出部分另算,跟按量不是一本账
缓存和批量这两类,便宜归便宜,前提要对上
缓存便宜,但命中有条件。提示前缀得足够稳定,每次请求都把开头那段改一遍,命不中就按未命中的那档走,你以为在用缓存价,实际一直在付全价。这事儿麻烦在它不会报错,只是账单悄悄变高。
另外缓存写入和缓存读取是两项不同的计价,也不是所有平台都开放。接之前先查该模型当前支持不支持,别默认它一定有。批量任务走异步通道,价格更低但要等,赶时间的场景根本用不上。能不能接受延迟,是选它之前第一个要回答的问题。
| 模式 | 价格更低的前提 | 什么情况下不适用 |
|---|---|---|
| 缓存 | 提示前缀稳定,能重复命中 | 每轮开头都重写、请求内容各不相同的场景 |
| 批量 | 能接受异步等待,不赶交付 | 实时对话、在线客服这类要秒回的场景 |
| 订阅 | 用量稳定、集中在一个客户端 | 短期项目、用量波动大、要集成进产品 |
订阅包和按量调用,别混着算一份账
订阅类套餐给的是额度或折算量,超出后要么限速要么另计。它跟按量 API 不是同一本账,混在一起算,会让某一条线看起来特别贵或者特别便宜,判断就歪了。团队里有人用订阅、有人用 API,预算要分成两条线记。
怎么选有个简单标准:调用量稳定、集中在一个客户端,订阅省心;调用分散、要集成进产品、用量随业务起伏,按量更可控。这条标准不适用的情况也得说清楚——短期项目或者用量波动大的阶段,包年订阅容易把资金压住,先按月试一两个月,看清真实用量再决定。
两条线的记账办法
- 拆成两条预算订阅一条、按量一条,各自记用量和花费,别互相抵扣着看。
- 各自找对标订阅线看额度够不够、超了怎么算;按量线看输入输出比例和缓存命中率。
- 月末对一次把真实账单和月初估算放一起,差在哪一项就记下来,下月修正。
下单前按这个顺序核一遍
下面这几步照着走,能挡住大部分口径错误。顺序别乱,先核单位再算量,最后留余量。
- 核对计价单位页面写的是每百万 token 还是每千 token,先抄下来,单位错一位,结果差三个数量级。
- 拆用量再乘把用量拆成输入、输出、缓存命中三块,分别乘对应单价,再用站内模型成本计算器交叉验一遍。
- 查隐藏项图像、工具调用、失败重试是否单独计费,页面没写清就去确认,别默认免费。
- 留返工余量估出来的数字往上加一档再拿去报预算,返工和重试是常态。
- 把口径记进文档模型或价格一调整就回来重算,别一年后还在用旧账本。
数字会变,核对路径不变
单价和模型规格,去站内官方 API 价格页和 AI 模型库对。价格有调整,看模型价格变动页。这几条路径比记住任何一个数字都管用。
如果你走的是中转渠道,倍率和额度折算是另一套口径,跟官方直连不算同一回事。先看 API 中转站排行榜和全部中转站里的公开信息,把倍率换算方式搞明白再下单。做年度估算时,把过去一个月的真实用量导出来,按当月单价重算一遍,比拍脑袋可靠得多。
下一步:把口径落到具体方案上拿不准某家中转站的倍率怎么折算,先去排行榜和站点列表看公开信息,再对照官方价格页算一遍。→常见问题
输入和输出分开计价,那我估预算该按哪个算?
按比例加权。多数任务输入 token 远多于输出,只拿输出单价乘总量会把结果算高。先统计自己一轮任务的平均输入输出比,再分别乘对应单价相加,最后加一档余量。
缓存和批量都能省钱,是不是直接开就对了?
不一定。缓存要看前缀是否稳定、平台是否支持,命不中就不省;批量要能接受延迟,实时交互场景用不了。先确认你的场景满足条件,再谈省多少。
订阅和按量 API 到底选哪个更划算?
看用量是否稳定、是否要集成进产品。固定几个人用同一个客户端,订阅省心;要嵌到系统里按请求付费,按量更可控。两边都有就先各跑一个月,用真实账单比,别只看标价。