团队原来用一个模型,账单心里有数;换到另一个之后,同样的活账单不是翻倍就是省得莫名其妙。问题通常不在单价,而在计费口径:按什么单位算、什么算输入什么算输出、缓存和推理算不算钱。这篇不讲协议怎么接,只讲换模型前怎么把两边的账摊在同一张纸上比。
团队原来用一个模型,账单心里有数;换到另一个之后,同样的活账单不是翻倍就是省得莫名其妙。问题通常不在单价,而在计费口径:按什么单位算、什么算输入什么算输出、缓存和推理算不算钱。这篇不讲协议怎么接,只讲换模型前怎么把两边的账摊在同一张纸上比。
口径这件事最麻烦的地方在于,它不会写在你第一眼看到的那张价目表上。价目表告诉你每单位多少钱,但没告诉你哪些内容会被算成单位、哪些会被打折、哪些干脆不算。所以比价的第一步不是换算,而是先把两边的口径问清楚,再用同一批真实请求去验证。下面按单位、输入、输出、清单、监控五块拆。
先看计价单位:同一件事两边可能按不同东西收费
计价单位是最容易被忽略的一层。同样是「处理一段对话」,一边可能按输入输出 token 分开报价,另一边给一个综合单价。综合单价看着简单,却很难横向比,因为你不知道自己真实请求里输入输出的比例是多少,比例一变结论就翻。先把单位记下来,再决定怎么算。
- 确认是输入输出分开计价,还是一个综合单价打包;后者要先估自己请求的输入输出比例才能比
- 确认图片、音频、文件这类多模态输入是按 token 折算,还是按张、按秒单独计一档
- 确认最小计费粒度:按次、按千 token 还是按整数倍进位,短请求多的时候差别会被放大
- 把两边的单位写在同一行,再拿去站内换算工具换算,不要直接比页面上的数字
什么算输入:提示词、上下文、缓存命中各算哪笔
输入这一侧最贵也最隐蔽的部分是系统提示词和工具定义。它们每一轮都会被重新送进去,长系统提示会持续吃掉每一轮的成本。换模型时,同样的系统提示在新模型这边可能被算得更贵,也可能因为对方有缓存机制而便宜下来,光看单价看不出来。
| 输入组成 | 常见计费方式 | 换模型要问什么 |
|---|---|---|
| 系统提示词与工具定义 | 每轮全额计入输入 | 新模型是否把它算进输入,有没有折扣档 |
| 历史对话上下文 | 按全量重复计入 | 长对话是否有截断、缓存或压缩策略 |
| 缓存命中部分 | 命中与未命中价不同 | 对方有没有缓存机制、命中怎么算、怎么触发 |
| 多模态附件 | 按 token 折算或单独计档 | 图片按张还是按 token,文件解析算不算 |
- 准备样本脱敏一段真实请求,包含系统提示、几轮历史、一次工具调用,尽量贴近生产结构。
- 两边各跑一遍分别调用旧模型和新模型,记录返回的用量字段,而不是只看控制台展示的数字。
- 逐项对齐把输入、缓存、工具定义各占多少列出来,看哪一项在两边被算的方式不一样。
输出与推理:容易被忽略的那一半账
输出这一侧的变化往往不是价格带来的,而是模型风格带来的。换个模型,同样的问题它可能写得更长、更啰嗦,或者反过来更简洁。输出量一变,按输出计费的那部分就跟着变,跟单价没关系。评估时不要用旧模型的平均输出长度去套新模型。
- 推理或思考类内容有的单独计入输出,有的隐藏不计费,换模型后输出 token 可能突然变多
- 结构化输出和工具调用参数算不算输出,各家写法不一,直接影响按次成本
- 流式输出不影响总量,但会拉长占用时间,如果对方按并发或时长计费要单独考虑
- 输出长度由模型风格决定,换模型等于换文风,预算要按实际输出量重估而不是按旧均值
判断标准很简单:拿同一批问题分别让两边答,统计实际输出的用量字段,看新模型是更长还是更短。如果新模型输出明显更长,即便它的输出单价更低,总账也可能更贵。这种情况在开放问答、长文生成类任务里最常见;如果是固定格式的短输出任务,比如只返回一个分类标签,这个差异基本可以忽略。
换模型前的一张对照清单
把前面几块的信息收拢到一张表上,用同一批样本请求算出总成本,而不是拿单价乘一个想当然的用量。单价低不等于总账低,口径不一样的时候,单价甚至不能直接放在一起看。
| 对照项 | 旧模型 | 新模型 |
|---|---|---|
| 计价单位(分开/打包) | 填写 | 填写 |
| 输入侧计入项 | 填写 | 填写 |
| 缓存与折扣规则 | 填写 | 填写 |
| 输出与推理计费方式 | 填写 | 填写 |
| 免费与赠送额度 | 填写 | 填写 |
| 同一批样本的总成本 | 填写 | 填写 |
- 确认免费额度、赠送额度、阶梯档位是否参与折算,以及额度用完后按什么价
- 确认请求结构是否一致,差异大的话对比结论不可直接迁移
- 确认模型能力差距会不会导致返工,返工的成本要算进总账
- 确认当前用量是否已经稳定,用量还在波动时算出来的结论参考价值有限
什么情况下这张清单不适用:请求结构差异大、模型能力差距导致返工、或者用量本身还没稳定,这几种情况下的对比只能当参考。真要看当前的单价和口径数字,到站内价格与模型资料库核对,那里会跟着官方变动更新。
换完之后盯什么:把口径偏差早发现
换完不是结束,口径偏差往往在头几天才暴露。按天比对用量和账单,看是否与预估同向。偏差大的时候,回到口径清单逐项排查,先分清是单价变了还是用量变了——这两者的处理方式完全不同。
- 头几天按天对账每天把实际账单和预估放一起看,偏差持续超过预期就进入排查。
- 分清单价还是用量如果账单涨了但用量没涨,是口径或单价问题;用量涨了则要回头看输出长度和请求结构。
- 记录实际用量字段别只信控制台展示的数字,把接口返回的用量字段记一份,两者口径可能不同。
- 定期回价格追踪页核对模型升级或平台调价后口径可能变,隔一段时间回站内价格追踪页对一次。
常见问题
为什么两个模型单价看着差不多,实际账单差很多?
单价只是其中一项。差异通常来自输入里算不算系统提示和工具定义、输出里算不算推理内容、缓存命中是否有折扣、以及最小计费粒度和阶梯档位。把这几项按同一批真实请求各算一遍,差距就出来了,别再盯着单价页面比。
换模型前要准备多少真实请求样本才够?
不用多,挑能代表日常结构的几类就够:最长的系统提示、最长的历史对话、带工具调用的一次、纯短问答一次。按这几类各跑一遍,把返回的用量数字记下来横向对齐,比拿总量估算可靠得多,也更快暴露口径差异。
换完之后账单超预期,先查哪一步?
先分清是单价变了还是用量变了:看用量字段是否随请求同步上涨,如果是用量涨,多半是新模型的输出更长或结构不同;如果是用量没变而费用涨,多半踩到了缓存不命中或阶梯档位。分清楚再回到口径清单逐项核对。