很多人第一次给 agent 做预算,是拿 token 单价乘以预估字数,结果月底账单翻好几倍。问题不在单价,在于 agent 每一轮都把工具定义和前面整段对话重新发一次,失败重试还要再来一遍。这篇把 function call 与 agent 的钱按实际发生的环节拆开,给你一套能自己填数、自己判断贵在哪的算法。
为什么 agent 的账比 function call 难算
先把两件事拆开看。function call 其实是一次请求里把工具清单和参数结构一并塞给模型,模型回你「我选哪个工具、参数填什么」,到这儿就结束了。账单大头落在输入 token 上——工具定义写多长、历史带多少,都算在那一格里。
agent 不是一次请求,是个循环。想一步、调一次工具、把结果拿回来、再想一步。麻烦在于每一轮都要把前面的对话、工具返回、自己的推理重新发一遍给模型。轮次越多,输入像滚雪球,到第七八轮的时候,你以为只多问了几句,实际输入量已经翻了好几倍。
| 对比项 | 单次 function call | agent 循环 |
|---|---|---|
| 请求次数 | 一次 | 多轮,取决于任务 |
| 输入构成 | 工具定义+当轮上下文 | 工具定义+全部历史+历次工具返回 |
| 钱主要花在哪 | 输入 token 一次结算 | 输入 token 按轮次累加 |
| 什么时候结束 | 模型给出工具和参数 | 任务达成就停,也可能中途卡住 |
| 账单差距来源 | 单价和工具定义长度 | 轮次和每轮重复携带的历史 |
所以同一个问题,单次 function call 可能一把就完了,agent 却可能来回七八轮。差距不在单价,在轮次。这也解释了为什么有人拿单次调用的价格去估 agent 成本,最后被账单吓一跳——他算的是单价,实际付的是流程。
- 轮次多不一定贵,但每轮都重发全历史,输入就会滚起来
- 工具返回内容越长,下一轮携带的负担越重,比工具数量更影响支出
- 把历史压缩、只留关键结论,能少滚几圈
- 任务边界写清楚,避免 agent 反复试错空转
- 具体单价和 token 量去站内价格页看当时的数字,别拿旧记忆估算
按任务算,而不是按 token 算
按 token 算账最容易出现的偏差,是把一次对话当成一次调用。function call 的实际情况是:模型先想一轮,决定调哪个工具;工具跑完把结果塞回去,模型再想一轮,可能又要调下一个工具。同一件任务跑几轮、每轮挂几个工具,只有你自己的日志知道。拍脑袋估一个「大概两三次」,最后对不上账是很常见的事。
- 先圈定一类任务别笼统统计全部流量。挑一类有代表性的,比如「查订单后回答客户问题」这种固定流程,把它的请求 ID 单独捞出来,避免不同复杂度混在一起平均,平均出来的数谁也用不上。
- 数轮次沿请求 ID 把同一条链路里的模型调用次数数出来,这就是轮次。分工具调用轮和纯文本轮分别记,纯文本轮往往被忽略,但它照样烧 token。
- 数每轮的工具数把每轮带进上下文的工具定义条数记下来。工具越多,每轮塞进去的 schema 越长,这部分开销按轮次重复计费,不是一次性成本。
- 回填单价拿当时的模型单价去算,输入输出分开取。具体数字到 /tools/model-cost-calculator 按天核对,或到 /official-api 看当期官方口径,别用记忆里的旧价。
- 加工具侧开销搜索引擎、代码执行、第三方接口这些自己也要收费或耗资源,把这部分按任务摊进去,单任务成本才算完整。
| 要统计的项 | 从哪取 | 为什么不能猜 |
|---|---|---|
| 平均轮次 | 自己的调用日志按请求 ID 串联 | 轮次差一轮,成本可能差一半 |
| 每轮工具数 | 请求体里的 tools 字段条数 | 工具 schema 每轮都重复计入输入 |
| 输入输出 token | 日志里的 usage 字段 | 输出单价通常高于输入,混算会失真 |
| 模型单价 | /tools/model-cost-calculator、/official-api | 价格会调,写死的数字很快过期 |
| 工具侧费用 | 各工具自己的账单 | 搜索、执行类工具按次或按量另算 |
两数相乘再加工具开销,得到的就是单任务成本。算完发现比预期高出一个量级,先别急着换便宜模型。八成问题出在轮次上:某个工具返回格式没约束好,模型反复重试;或者工具描述写得含糊,模型在几个相似工具之间来回试探。这类问题换成小模型只会更糟,因为它更猜不准,轮次还得涨。
工具定义写太细,是最容易被忽略的一笔
很多人算 agent 成本,盯着模型单价和输出长度,却忘了一件事:工具定义是每一轮都要重新塞进上下文的。你挂了几个工具、每个工具的描述写多长、参数 schema 有多少字段,这些字符会被完整地序列化进 prompt,一轮一轮地重复计费。
这事儿麻烦在,它不像输出那样看得见。输出多长你还能盯着 token 数心疼一下,工具定义是隐形的,你加一个工具觉得「反正就几十行」,挂到二十几个之后单轮输入翻倍都不止。一个 5 人小团队做客服 agent,顺手把内部七八个系统的接口全挂上去,跑了两天才发现大部分调用根本用不到那些工具。
| 工具定义写法 | 对上下文的影响 | 什么时候会出问题 |
|---|---|---|
| 只写工具名 + 一句话用途 | 占用最小 | 模型可能选不准,要靠描述补足 |
| 描述里抄了整段内部接口文档 | 单轮输入明显变大,且每轮重复 | 工具数量一多,累积成本快速上升 |
| 参数 schema 把所有可选字段都列全 | 字段多时序列化体积大 | 大部分字段实际没被模型填过 |
| 挂满全量工具不分组 | 工具越多输入越大,还干扰模型选择 | 任务只用到其中少数工具时最亏 |
判断标准其实很朴素:看这个工具在一类任务里出现的概率。如果十次里有九次用不上,就别全量挂着。把它拆到第二个 agent,或者按任务类型做按需加载,让主链路只带真正高频的那几个。工具少一点、描述准一点,模型选对的概率反而更高。
- 先按任务类型把工具分组,主 agent 只挂高频那组
- 低频工具走单独的子 agent 或按需加载,不塞进主 prompt
- 描述写到模型能选对就停,别把接口文档整段搬进去
- 参数 schema 只保留实际会被填的字段,可选字段能省则省
- 反过来也要查:描述含糊导致选错工具、反复重试,比多写几个字更亏
给轮次设上限,比给预算设上限管用
预算上限这件事,很多人是在账单出来之后才想起来设。这时候已经晚了,钱花都花完了,你只是给账单加了个备注。真正好使的是轮次上限:先不管你一个月打算花多少,先问这一类任务最多让它跑几轮。超过就掐掉,把中间结果交回给人。成本立刻从「看运气」变成「能算出来」。
比如一家 5 人小团队做客服工单分派,这种任务本来就该在几轮内收敛:读工单、查规则、定分类、写回复。你给它一个轮次天花板,跑到顶还没定论,说明模型卡住了,继续跑只是烧钱换一个更长的错误答案。让它停在那儿,人接手处理,反而是更便宜的路。
- 轮次上限先卡,按任务类型分组设,不要全站一个数
- 单任务累计花费也卡一道,谁先触发谁停,别只留一个闸
- 两类阈值都要能被人看到,超限时返回中间结果而不是空报错
- 定期回看触发记录,老是撞上限的任务要么拆小,要么改流程
两个闸同时存在的意义在于它们堵的不是同一个洞。轮次管的是「跑得久」,花费管的是「单次跑得贵」——长上下文、反复读大文件、工具返回一大堆内容,都可能让某一轮特别费。只卡轮次,遇到贵的一轮照样疼;只卡花费,遇到便宜但无限打转的任务,也能磨很久。两道一起上,先到先停。
具体数字别拍脑袋。到 看同类套餐的额度是怎么折算的,用那边的口径反推你单任务该给多少轮,至少和套餐设定在同一量级,不至于自相矛盾。这里说的是方法,具体数值以页面当时展示为准,别照抄我嘴里的数。
哪些情况下这套算法会失准
上一节那套按 token 折算的算法,前提是「输入输出都按标价走」。实际用下来,这个前提经常不成立。不是公式本身错,是它假设的计费环境太干净了。下面几种情况,硬套公式算出来的数字会明显偏高或偏低,得换算法。
| 场景 | 算法会怎么失准 | 换成怎么算 |
|---|---|---|
| 流式输出 + 长上下文 | 缓存命中部分按标价算,单价被高估 | 按缓存命中率折算,命中率去 /usage 看真实分布 |
| 走包月订阅而非按量 | token 公式算不出真实成本,额度是打包的 | 把额度折算成能跑多少个典型任务 |
| 多 agent 协作 | 工具结果在 agent 间转手,上下文重复度高 | 按调用链路单独统计,别按单个 agent 汇总 |
先说缓存。长上下文加流式输出时,系统提示词、历史对话、工具定义这些前缀内容会被反复送进去,命中缓存的那部分单价跟标价不是一个量级。你手上如果只有一份价目表,算出来的自然是「全都没命中」的悲观值。真实命中率不是一个能拍脑袋估的常数,得看账号自己的使用分布。到 /usage 里翻实际的命中比例,再回填进公式,比任何经验系数都靠谱。要注意的是,新账号或者提示词结构经常变的情况下命中率会偏低,这时候按标价算反而不离谱,别急着套高折扣。
再说包月。按量计费的直觉是「一个任务多少 token,乘单价」,但订阅制卖的是额度池,不是单价。这时候更合适的口径是:拿你的典型任务去跑,看一次任务大概吃掉多少额度,再用总额度除一下,得出「一个月能跑多少个这种任务」。任务本身大小差别大,就分两三档典型任务分别折算,别拿一个平均值糊弄自己。这种折算的局限也明显——任务类型变了、或超额部分按另一套规则计费,折算结果就作废,得重算。
多 agent 协作是最容易算漏的一层。一个 agent 调工具,结果要回灌给下一个 agent,同一段工具输出可能在链路里被读好几遍,上下文重复度比单 agent 高不少。如果还是按「每个 agent 各自算 token 再相加」,重复读的部分要么被漏算,要么被算两次,账就对不上。比较稳的做法是按调用链路建统计:以一次用户请求为根,把链路上每个节点的输入输出串起来看总消耗。
- 拉一份真实用量去 /usage 导出最近一段时间的用量,重点看缓存命中占比和上下文长度分布,别用记忆里的数字。
- 按场景拆开算把按量调用、订阅额度、多 agent 链路分成三本账,各用各的口径,别混在一个公式里。
- 回填再对比用真实命中率和任务折算数替换掉公式里的假设值,和最初按标价算的结果比一下,差得多的那个数就是失准源头。
- 定期重算提示词结构、任务类型、链路设计一变,上面的假设就过期了,隔一段时间重新拉数据算一遍。
常见问题
function call 本身要额外收费吗?
多数平台是按 token 计费,工具定义和返回的参数都算进输入输出,没有单独的「函数调用费」。但工具背后如果是第三方接口,那部分钱是另一笔账,要分开看。
agent 比 function call 贵多少算正常?
没有固定倍数,取决于轮次和工具数量。判断方法是拿同一类任务分别测一遍,记下轮次和花费,能看到差距主要来自哪个环节。具体单价到 /official-api 按当时的数字对。
工具挂得越多是不是越贵?
是,而且比想象中明显。每轮请求都会带上全部工具定义,挂二十个和挂五个,单轮输入能差出好几倍。低频工具建议拆出去按需加载。
用中转站会不会便宜到没参考价值?
中转站的价格和稳定性差异大,用它做预算基准要先验证可用性。建议到 /tools/verify 看检测结论,再决定是否拿它当长期口径。
怎么知道贵在轮次还是贵在工具?
看日志里每次请求的输入 token 和调用次数。输入随轮次线性涨、工具调用次数不多,说明是轮次问题;反过来就是工具定义太重。