运营或产品接到一句话需求:这批任务大概要跑两亿 token,得先报个人民币预算。麻烦在于两亿是总量,钱却按输入和输出分开算,中间还可能走缓存、走中转倍率、走套餐额度,口径不对就能差出一大截。这篇不给你一个死数,而是给一套可复用的换算顺序:先定口径,再查当时单价,再乘倍率,最后留出缓冲,顺手把能压的部分提前拦下来。
运营或产品接到一句话需求:这批任务大概要跑两亿 token,得先报个人民币预算。麻烦在于两亿是总量,钱却按输入和输出分开算,中间还可能走缓存、走中转倍率、走套餐额度,口径不对就能差出一大截。
这篇不给一个死数,而是给一套可复用的换算顺序:先定口径,再查当时单价,再乘倍率,最后留出缓冲,顺手把能压的部分提前拦下来。单价、汇率、倍率这类会变的东西,一律到站内对应页面核对当时的数字,别用记忆里的数。
第一步:两亿 token 不是一亿条输入,先拆成四份
四类分的理由是单价不同:输出通常比输入贵,缓存写入和缓存读取又各有自己的价。混成一个总量去乘,方向容易偏。做预算时先问业务形态,是长输入短输出(比如文档摘要、检索问答),还是短输入长输出(比如写文案、生成代码),这决定输出占比。
- 把总量拆成输入、输出、缓存写、缓存读四类,四类单价不同,混在一起算必错
- 输出占比是决定总价的最大变量,做预算时先问清业务形态,拿不到就设区间
- 拿不到精确拆分时给比例区间(比如输出占一成到三成),报出去的是范围而不是一个点
- 换算时输入输出分开填,用站内计算器跑一遍,比手算少出错
如果连大致比例都估不出来,先拿一段典型请求人工数一遍:一段提示词多少 token、一次回复多少 token、一天跑多少次。三个数相乘再乘天数,比拍脑袋靠谱。
第二步:查当时单价,别用记忆里的数
单价随时在变,任何写死的数字都会过期。官方价格页看挂牌价,价格追踪页看历史波动,两边对一下能判断现在是高位还是低位。注意计费单位是否一致,有的按千 token,有的按百万 token,换算时先统一。
- 输入价
- 按送进去的 token 计费,通常单价较低
- 输出价
- 按模型吐出来的 token 计费,通常单价较高
- 缓存价
- 命中缓存的部分按较低价计,写入部分另算
- 中转倍率
- 中转站在官方价基础上乘的系数,目录页能看到当时情况
人民币成本还要过一道汇率口径:官方按美元计价时,要算上结算汇率与手续费,这部分单独确认,别直接按牌价乘。走中转站的话再乘倍率,倍率和官方价的差多少,在中转站目录与倍率相关页面里能看到当时情况。
| 渠道类型 | 要查什么 | 注意点 |
|---|---|---|
| 官方直连 | 官方价格页挂牌价 | 计费单位是否统一 |
| 云厂商托管 | 该云的价格页 | 是否有阶梯或承诺用量 |
| 聚合平台 | 平台价格页 | 是否含加价、额度怎么扣 |
| 中转站 | 站内价格追踪与目录 | 倍率、限速、结算方式 |
第三步:加缓冲、设闸门,别让预算只停留在表格里
估算出来的数只是个起点。重试、长上下文、失败重发都会把实际用量推高,所以预算里要带缓冲比例,并把这个比例写进预算说明,让审批的人知道这不是精确值。
- 设预算告警给项目配用量告警,越过第一档就通知负责人,越过大档就限流,避免一晚跑飞
- 小样本试跑抽一小批真实请求跑一段,记录实际 token 用量,再按比例倒推总量,比纯估算准
- 核对批量通道任务是离线批处理、交付节奏能等的话,看看批量通道能不能用,值不值得等要和排期一起判断
- 留出重试空间把失败重试和输出截断算进缓冲,别默认一次成功
告警和限流不是不信任谁,是防止脚本跑飞。真出了用量异常,第一件事是停任务、看日志,而不是先改预算。
能省的部分按这个顺序砍
砍成本有顺序,先动不影响效果的部分,最后才动渠道。前两步做完,往往已经能压掉相当一部分估算量,比一上来就换平台稳。
- 先砍提示词冗余:同一段背景反复塞进上下文,是最容易被忽略的浪费
- 再看缓存能不能命中,命中部分按缓存价算,但要把缓存写入成本也算进来,不是稳赚
- 再看模型档位:简单分类、抽取类任务换到低价档,复杂推理留高价档,按任务类型对比一次更清楚
- 最后才考虑换平台或走中转,渠道换了口径也换了,先确认额度、限速和结算方式再动
哪一步不适用要看任务类型:如果输出本身就是核心交付物(比如长文生成),压输出长度会直接影响质量,这类任务就别硬压,把缓冲留足更实际。
算完还要能对上账:一份核对清单
预算报出去只是开始,账单周期结束后要能解释清楚偏差在哪。把预估、实际、扣费三个数放在一起看,一次对不上正常,连续几次对不上就是口径问题。
| 核对项 | 看哪里 | 对不上时先怀疑 |
|---|---|---|
| 预估总量 | 自己的拆分表 | 拆分比例是否过时 |
| 实际总量 | 用量记录页 | 重试和长上下文 |
| 实际扣费 | 账单或中转后台 | 汇率、手续费、倍率 |
| 单价口径 | 官方价格页与追踪页 | 计费单位、缓存是否另计 |
差异超过预期时,先怀疑口径(缓存是否另计、倍率是否适用)再怀疑单价变动,顺序反了容易把时间花在查不存在的涨价上。把这次的拆分比例和缓冲比例存成模板,下次同类任务直接套。
两亿 token 值多少钱,取决于你怎么拆、按哪天的价、走哪条渠道,不取决于谁记得一个数。
常见问题
能不能直接给一个两亿 token 等于多少人民币的数?
给不了固定数,因为总价取决于输入输出比例、用哪个模型、走官方还是中转、当时汇率和倍率。你可以到站内的官方 API 价格页和价格追踪页拿到当时的单价,再用 token 单价换算工具按你的输入输出比例算一遍,得到的是当下这个时点的数,过一阵要重算。
做预算时最容易低估哪一块?
大概率是输出和重试。输出单价普遍高于输入,而业务方报用量时常常只报「要处理的文本有多少字」,把输出漏掉;重试和失败重发则完全不在纸面计划里。建议把重试率按历史值单独列一行,再给总量留一段缓冲,这两项加上去预算才比较接近真实扣费。
走中转站会不会更便宜,预算要不要按中转价算?
可以比,但要先把口径对齐:倍率是按哪个基准乘的、额度怎么折、有没有最低充值、限速会不会拉长工期。这些在中转站目录和相关倍率说明里能看到当时情况。预算建议同时算官方价和渠道价两版,差额部分当成渠道风险的空间,而不是直接当省钱。