很多人算 function call 与 agent 的费用,是拿一次对话的 token 价乘个次数就完事,跑起来才发现账单对不上。差的地方不在单价,在于每轮请求都带完整工具描述、一次任务要来回好几轮、失败重跑还要再付一遍。这篇按四层把账拆开,给出估算顺序和什么情况下这套算法不适用。
先把一个常见误区摆出来:很多人算 agent 的费用,是拿一次对话的 token 价乘个次数就完事。跑起来才发现账单跟预算对不上,差得还不是一星半点。问题不在单价看错了,在于乘法本身就不对——一次任务不是一次请求,每轮请求扛的内容也不一样重。
这篇按四层把账拆开:工具定义、轮次、模型档位、失败重跑。拆完你会发现自己之前少算了哪一格。先说清楚,本文不给任何具体数字,凡是需要看当时价格的,都写明去站内哪个页面核对。
为什么按单价乘次数算不准
单次请求里,工具描述和参数 schema 是跟着每一轮一起上传的。你挂了十个工具,第一轮带着它,第二轮还带着,第五轮照样带着。轮次越多,这部分固定开销被重复计费的次数就越多。单看一次请求感觉不大,乘上轮次就显出来了。
agent 还有个更麻烦的性质:它是多轮循环。一次任务可能是几次调用,也可能是几十次,取决于任务复杂度和模型自己拆步骤的水平。你按一问一答去估,等于少乘了一个看不见的系数。再加上失败、超时、参数填错的重跑,同一次工作可能付了两三遍钱。
- 随轮次线性涨的:历史上下文、每次都要带上的工具定义
- 随工具数量涨的:描述文本、参数枚举、字段说明
- 随模型档位变的:每轮用哪档模型算哪档的价
- 随重试策略变的:失败率有多高,平均就多付几倍
- 真正不随调用变化的:基本没有,连接口本身都有最小计费粒度
第一层:工具定义是固定开销还是浮动开销
工具定义这块,本质上是把你的能力清单每次念一遍给模型听。描述写得越细、参数 schema 越复杂、枚举值越多,占的输入长度越大。挂两个工具和挂十个工具,单次请求的输入长度不是一个量级。
- 按场景拆工具集,别让一个 agent 管所有事
- 工具描述写短,把「什么时候用」写清楚,别把整个手册贴进去
- 枚举值能收敛就收敛,不要开一堆用不到的分支
- 定期数一遍每个工具的实际调用频次,长期零调用的直接摘掉
- 判断标准:工具数量多但单次只用一两个,说明该拆流程,不是继续加工具
算这部分成本,要拿工具定义的字符长度去换算成输入 token,再对着当时那家官方接口的输入单价折算。单价别记,会变。到 /official-api 逐家对当时的数字,或者用站内的 token 计算器页面直接代入长度估一遍。
第二层:轮次乘数,最容易被低估的一格
轮次这个数,拍脑袋基本都会低估。你以为三步搞定,模型可能拆成七步,中间还回头重试两次。唯一的可靠办法是从日志里数:挑一类典型任务,跑二十条样本,记下每条实际发生的请求次数,取中位数,别取平均数——长尾那几条会把均值拉得很难看。
还有个细节:每轮都带历史上下文的话,后几轮的输入比第一轮长得多。第一轮可能就一个系统提示加用户问题,到第五轮已经把前面所有工具返回结果都背上了。所以轮次的成本贡献不是线性的,是往上翘的。
- 抓一条完整请求体从日志里把一次任务的每轮请求原样存下来,别只看汇总数
- 量每轮的实际输入长度第一轮和最后一轮分开量,看差距有多大,差距大说明历史上下文在拖后腿
- 数请求次数跑二十条样本,记中位数和最大值,最大值用来做预算上沿
- 判断是否适用单轮就能定结果的场景,轮次乘数趋近于一,这套拆法收益不大,别硬套
第三层:模型档位,贵的不是调用是选错模型
一个任务里,不同轮次干的活不一样。规划、拆步骤、判断下一步做什么,这类轮次需要强一点的模型;执行、填参数、取值、调工具,这类轮次简单模型完全够。混着用一个档位,均价就被拉高了。
判断方法很直接:翻一次完整任务的日志,看九成轮次在干什么。如果九成轮次都是简单取值和参数填充,那说明模型选贵了,不是任务本身贵。反过来,如果大部分轮次都在做规划判断,换便宜模型可能会让轮次变多、失败变多,整体反而更贵。
| 轮次类型 | 适合的档位 | 判断信号 |
|---|---|---|
| 规划、拆步骤、决定下一步 | 强一档 | 任务结构复杂、分支多 |
| 执行、填参数、调工具 | 够用就行 | 输入输出都短、答案确定 |
| 总结、改写、格式化 | 中间档 | 质量要求高于速度 |
| 兜底重试 | 跟首轮一致 | 重试就是要救回来,别降档 |
换模型之后计费口径会变,有的按输入输出分开算,有的有缓存命中折扣。看当时的变动记录,到 /price-watch 对一下再下结论。走中转站的话口径又是另一套,不能直接拿官方单价套。
第四层:失败重跑和超时,账上最隐形的部分
参数类型不符、必填字段漏了、枚举值对不上,这类错误导致的重跑,等于同一次工作付两遍钱。而且重跑往往发生在任务后半段,那时候上下文已经很长了,重跑一次的成本比第一次还高。
更糟的是没有上限的循环。步数不设上限、工具不给白名单,一次跑飞能把当天预算吃光。这不是危言耸听,是没设护栏的 agent 的常见死法。重试策略本身就是一个成本变量,不是技术细节。
- 设步数上限,超过就中断并记日志
- 工具给白名单,不让模型自由选全集
- 重试设次数上限加退避,不要无条件重投
- 参数校验放在调用前,类型和必填字段先过一遍
- 观察口径:失败率乘以平均轮次,就是重跑放大的倍数
估算顺序:先量一条链路,再乘规模
四层拆完,估算顺序就清楚了:自下而上,先量一条真实链路,再乘规模。别上来就按日调用量乘单价,那样乘出来的数自己都不敢信。顺序错了,后面全白算。
- 挑一个真实任务别用玩具例子,用线上真实跑过的任务,记录轮次、每轮输入长度、用的模型档位
- 单独量工具定义把工具描述和 schema 的长度摘出来,算它在总输入里占多大比例,占比高就先拆工具集
- 加上失败重跑按实际失败率折算,别假设一次成功;失败率拿不到就先按保守值估,跑一周再修正
- 乘日调用量得区间得到一个上下沿,不是单一数字;上沿用最大轮次算,下沿用中位数算
算完拿这个区间去对比官方按量价和中转站报价。官方价到 /official-api 看,中转站的可信度和价格差异到 /sites 对照。中转站便宜往往有原因,便宜得离谱的先查可信度再谈省钱。
哪些场景不适合这套拆法
这套拆法不是万能的,硬套会浪费时间。第一种,纯 function call 的单次问答,没有多轮循环,轮次乘数趋近于一,拆四层意义不大,看输入长度和单价就够。第二种,低并发、人工审核跟得上的场景,成本瓶颈在人不在模型,算得再细也省不出多少。
第三种,用订阅制编程套餐跑 agent 的,看的是额度口径不是单价。你去按 token 单价算,算出来的数和账单对不上很正常,因为人家根本不按这个计费。到 /coding-plans 核对当时的额度规则,比自己推公式靠谱。
说白了,先确认自己的瓶颈在哪,再决定要不要拆这么细。瓶颈是轮次多,就去压轮次;瓶颈是工具定义太长,就去拆工具集;瓶颈是重跑率高,就去修参数校验。四层全拆一遍是给预算吃紧、调用量上来的团队准备的,不是每个项目都值得。
下一步把你手上那条链路的轮次和输入长度量出来,再对着站内当时的单价折算,比拍脑袋估预算靠谱得多。→常见问题
function call 和 agent 的花费主要差在哪?
差在轮次。单次 function call 是一次请求里带工具定义,agent 是把这件事循环做很多遍,每遍都要重新付输入的钱,还要加上失败重跑。所以 agent 的成本更像乘法,不是加法。
工具越多是不是越贵?
在不拆流程的前提下是的。工具描述每轮都跟着请求走,挂得多输入就长。判断办法是看单次任务实际用到的工具占挂载总数的比例,很低就说明该按场景拆开。
怎么估一个 agent 任务大概要几次调用?
别估,先记。跑二十条真实样本,把每条的轮次和每轮输入长度存下来取中位数,再乘日调用量。拍脑袋的轮次数通常偏低,因为把重跑漏掉了。
省钱该先动模型还是先动轮次?
先动轮次。轮次是乘数,模型单价是系数,乘数下来效果更直接。轮次压不动了再去考虑分档用模型,规划一档执行一档。
订阅套餐跑 agent 还需要算这些吗?
算法不一样。订阅看的是额度消耗口径,不是按 token 单价乘。要按额度折算就得到站内套餐页面看当时的说明,别拿按量价直接套。