搜「ai大模型调用多少钱」的人,多半已经看过几家官网的单价表,回到自己项目里还是算不明白:同样一段代码,换个写法账单能差出一截。这篇不列具体数字,只讲钱花在哪几层、按什么顺序估算、哪些情况这套算法不适用,让你拿到报价能自己拆开对一遍。
搜「ai大模型调用多少钱」的人,多半已经翻过好几家官网的单价表,回到自己项目里还是算不明白:同样一段代码,换个写法账单能差出一截。问题不在你不会乘法,在于单价表上那个数只对应一次调用里的一小部分,剩下的藏在上下文、重试和平台规则里。
这篇不列具体数字,那些会变的东西一律让你去站内核对当时的行情。只讲钱花在哪几层、按什么顺序估、什么情况下这套算法直接不适用。你拿着报价单能自己拆开对一遍,比记住任何单价都有用。
先弄明白:按单价乘一下为什么总对不上
单价表标的通常是每百万 token 的价格,而一次请求里输入和输出不是一个价,输出一般更贵。你写个长文档摘要,输入占大头,看着还行;换成让模型生成整段代码,输出猛涨,整体成本立刻变形。只拿首行单价乘总 token 数,等于把两种不同定价的东西混在一起算。
还有一层更隐蔽:你以为自己只发了那一句提示词,实际进上下文的东西多得多。系统提示、历史对话、检索回来的资料、工具的函数定义,全都算在计费范围里。很多人第一次拿真实日志回算,发现比自己估的高出一截,差的就是这些「不是自己主动写的」内容。
长上下文档位、缓存命中、批量接口这些机制会把同一个模型的价格拉开差距。具体差多少、当前各家怎么定的,去 /official-api 看当时的官方口径,用 /tools/token-price-calculator 把一次真实请求灌进去试算,比对着表格心算靠谱。
一次调用到底有几笔钱:五层拆法
把一次调用拆成五层,你会发现单价只对应其中两层。这个拆法不是为了精确到分,是为了让你知道预算该往哪看。
- 输入层
- 提示词、系统指令、检索资料、历史轮次,凡是塞进上下文的都算,这层通常占大头也最容易被低估
- 输出层
- 模型生成的正文,还包括被截断、超时重发时白跑的那部分,输出单价一般高于输入
- 思考层
- 部分模型会先产出推理内容,这部分是否单独计费、算在输入还是输出侧,各家规则不一样,得逐个看文档
- 工具层
- 函数调用和 Agent 循环每一轮都要重新带上下文,来回几轮成本就往上翻,不是加一次的钱
- 平台层
- 中转或聚合平台的加价、最低消费、失败请求是否计费,这些不写在模型单价里
五层里最容易被忽略的是工具层和平台层。工具层的问题在于它会放大:一次问答只带一遍上下文,一个跑五轮的 Agent 就要带五遍。平台层的问题在于它不透明,你得去 /sites 翻具体站点的计费说明,别默认它等于官方价。
思考层要单独提一句。同一个模型开了推理和不开,账单结构可能完全不同。如果你的任务其实不需要多步推理,关掉它往往比换便宜模型更直接。哪些模型支持、怎么开关,去 /models 查资料库。
估算顺序:从最粗的一遍开始,别一上来抠小数
很多人估成本的顺序是反的:先比一圈单价,挑个便宜的,再往回推用量。这样做的结果是纠结在小数点上,却看不见真正的大头在哪。正确的顺序是先粗后细,先量后价。
- 先估输入体量拿真实业务的平均输入长度乘日请求数,得出每天进上下文的量。这一步误差最大,也最值得先做,因为上下文的量级决定预算的量级。
- 再按任务分档估输出别取平均值。摘要类输出短、代码生成类输出长,分开算比混在一起准得多,也方便你判断哪类任务该换档位。
- 把重试和失败乘进去接口报错重发同样烧钱。翻一下日志里重试比例,乘到估算值上,这块最常被漏掉。
- 最后才套单价到 /tools/model-cost-calculator 对一遍。顺序反过来,你会陷入单价比较,看不到真正的大头。
按这个顺序走一遍,通常半小时内就能得出一个量级上靠谱的估算。对不上再往细里抠,比一上来就精确建模省事得多。量级判断错了,后面所有精细计算都是白费。
真正拉开账单的四个使用习惯
同样调用同一个模型,两个团队的账单能差出好几倍,差距基本不在选了哪家,而在怎么用。下面四个习惯,改一个就能看到变化。
| 习惯 | 表现 | 改法 |
|---|---|---|
| 历史不裁剪 | 每轮把整段对话重发,成本随轮次线性涨 | 只保留最近几轮,或用摘要压缩旧对话 |
| 工具定义臃肿 | 一堆用不到的函数定义每次随请求重发 | 按场景拆工具集,只挂当前要用的 |
| 不分级路由 | 简单分类也交给最贵档位,量一大就明显 | 先过轻量档位,判断不了的再升级 |
| 重试太激进 | 超时立刻重发,同一份钱付两三次 | 加退避和去重,区分可重试与不可重试 |
这四个里,历史不裁剪最常见也最冤。开发阶段图省事把整段对话塞进去,测试时没人管,上了量才发现成本随对话轮次一路爬。工具定义臃肿同理,一个 Agent 挂十几个函数,实际每次只用一两个,其他的纯占位置。
分级路由听起来要写代码,其实可以先手动做:把请求按任务类型分个类,简单的走便宜档,复杂的才升级。跑一周看日志,哪些请求其实根本不需要贵档位,一目了然。具体各档位的定位去 /models 对照。
这几套算法什么时候不适用
上面这套按 token 拆层估算的方法,有个前提:你按量付费。前提一变,算法就得换,硬套会得出完全错误的结论。
- 订阅制或套餐制不按 token 走,得用月费除以额度折算单次成本,额度口径去 /coding-plans 看,别拿按量单价去比
- 本地部署或自建推理,成本是算力和电费,不是调用单价,思路要换到 /compute 那一套
- 带人工审核的 Agent 流程,人力成本可能比模型费高,只盯接口账单会严重低估
- 免费额度内的小流量测试,算出来的数没有参考价值,等超了额度再建预算表
还有一种情况:你的用量小到可以忽略,那纠结单价没意义,选个稳定、文档清楚的平台就行。成本优化是给有一定量的项目准备的,小项目更该操心的是接口稳不稳、出问题有没有人管,这部分可以看 /rankings 里的可信度维度。
上手前照着过一遍的清单
把下面几件事在动手前过一遍,能省掉大部分返工。不用全做,做前两条就能避开最常见的坑。
- 把一条真实请求的完整上下文打印出来,数清楚里面有几段内容不是你自己主动写的
- 列出会触发重试和工具循环的场景,估一个放大倍数,填进预算表
- 确认项目是按量还是套餐,两种预算表不能混着做,混了就是白算
- 每周抽一天用真实日志回算一次,和估算值对不上就找差在哪一层
- 换模型或换平台前,把同一批请求在两个地方各跑一遍,对比实际账单而不是单价
最后那条最实用。单价表能看,但真正的答案在你自己日志里。跑一周真实流量,把每层花的钱标出来,下次谁再问你「调用多少钱」,你能直接给出自家的数,而不是复述官网首行。
下一步拿不准某家中转站的实际计费和隐藏规则,去站点目录按可信度筛一遍,再对照价格追踪看历史波动,比自己猜靠谱。→常见问题
只看官网单价能不能估出月成本?
单看首行单价基本估不准。输入输出不同价、上下文里夹带系统提示和工具定义、重试又算一遍,这些都会让实际值偏离。建议先用真实请求量算 token,再套单价,最后留一档余量。
输入和输出为什么不能按同一个价算?
多数模型对输出侧的定价更高,因为生成比读取更吃算力。任务里输出占比高的时候,整体成本会明显高于按输入单价乘出来的数,评估时要分开算再相加。
走中转站会比官方贵吗?
不一定。中转的价值在接入便利和支付渠道,价格可能高也可能低,还可能有最低消费或按次计费。判断时把平台层费用单独列出来,和官方按量算一遍对比。
为什么小流量测出来的成本没法参考?
请求量小的时候,固定开销和免费额度占比过大,波动也大,算出来的单位成本偏离真实水平。等量级稳定、超过免费额度之后再回算才有意义。
重试和失败请求要不要算进预算?
要。很多平台对已经产生计算但返回失败的请求照样计费,激进重试等于重复付钱。做预算时按历史失败率乘一个系数,比按成功请求数算更接近实际。