很多人搜「AI Native和Agent多少钱」,脑子里想的是每百万 token 多少钱。真上手一个月才发现,账单里最贵的那几笔跟单价关系不大:工具描述反复塞进上下文、检索召回的文档太长、失败重试没人管。这篇不报具体数字,只给拆账方法和对账动作,让你在动手前就能把账框出来。
搜「AI Native和Agent多少钱」的人,脑子里多半想的是每百万 token 多少钱。真上手一个月才发现,账单里最贵的那几笔跟单价关系不大:工具描述每轮都要重塞进上下文、检索召回的文档太长、失败重试没人管。这三样加起来,往往比模型本身还贵。
这篇不报数字,只给你一套拆账方法和对账动作。动手前能把账框出来,比事后看账单心疼有用得多。你要的数字,站内对应页面都有当时的标价,自己代进去算。
只看单价,等于只看了账单的一角
AI Native 指的是把模型当底座重写流程的产品形态,Agent 是其中会自己调工具、多轮决策的那一类。两者共同点很要命:单次任务要发很多次请求。单价乘以轮数,才是你真正付的钱。传统软件一件活只付服务器钱,AI Native 每交互一次就付一次模型钱,用的人越多成本越线性往上走。这笔账得从产品形态层面先认下来。
什么情况下这条不成立?如果只是给现有产品加一个问答框,请求次数少、不并发,按单价估误差不大,别把事情搞复杂。另外补一句,很多团队第一次估成本,会把工具调用的返回结果当成「免费附赠」,实际它下一轮就变成输入了。
把费用拆成四层,逐层找钱
别盯总数,盯分层。模型、工具、检索、运行四层,哪一层出了问题,对账的时候一眼能看出来。模型层看输入、输出、缓存命中三档口径,长上下文和图片输入另算,单价去 /official-api 和 /tools/token-price-calculator 对当时的数字。
- 模型层
- 输入、输出、缓存命中三档分开算,长上下文和图片另计
- 工具层
- 每轮都要把工具定义和上轮结果重新塞回上下文,轮数越多这笔固定输入越贵
- 检索层
- 切片大小和召回条数直接决定塞进去的上下文长度,嵌入调用另算一笔
- 运行层
- 重试、超时重跑、人工审核、失败回滚,不产生价值但产生调用
工具层最容易被低估。一个 Agent 挂十几个工具,每个工具的描述都写得很长,模型每轮决策前都得把这堆东西读一遍。任务跑十轮,等于同一份说明付了十次输入费。说白了,工具不是越多越好,描述也不是越详细越好。
动手前的估算流程:先用一次真实任务跑出底数
估算别拍脑袋,也别拿别人的账套自己的场景。挑一个最有代表性的任务,把链路完整跑通,记下三件事:请求次数、输入输出 token 量、工具调用轮数。这三个数出来,成本的大头就定了。
- 跑一个真实任务选业务里最典型的那条链路,跑通并记录每次请求的输入输出量。别用玩具 demo,demo 的上下文短得没有参考价值。
- 换算单次成本用 /tools/model-cost-calculator 按当时的单价把 token 量换算成单次任务成本,注意输入输出分开代。
- 乘上量级日活任务量乘单次成本,得到日成本。再乘重试系数,多轮 Agent 的无效调用占比不低,估的时候留余量。
- 量级交叉验证把算出来的数跟 /usage 里同类产品的用量量级比一比。差出一个数量级,基本可以确定某一层漏算了。
有个常见误判:算完单次成本觉得便宜,直接乘用户数交差。问题是用户数涨了以后并发也涨,重试和排队带来的额外调用跟着涨,实际曲线不是直的。估算的时候按区间给,别给一个点。
AI Native 产品和 Agent 的成本结构不一样
这两类东西经常被混着聊,但烧钱的方式完全不同。AI Native 产品多是高频短请求,成本曲线跟着用户数走,优化点在缓存命中和输出长度。Agent 是低频长链路,单任务贵、绝对量少,优化点在减少轮数和砍工具数量。拿对话的单价去套 Agent,估出来的数会严重偏低。
| 维度 | AI Native 产品 | Agent |
|---|---|---|
| 请求频率 | 高频短请求 | 低频长链路 |
| 成本驱动 | 用户数、缓存命中率 | 单任务轮数、工具数量 |
| 优化重点 | 输出长度、缓存复用 | 步数上限、工具白名单 |
| 估算口径 | 按交互次数乘单价 | 按任务数乘单任务成本 |
判断标准其实很简单:单次交互的请求次数超过个位数,就该按 Agent 那套算。反过来,如果任务对延迟极敏感、必须走最贵那档模型,能优化的只剩轮数和输入长度,别的招都用不上。离线批处理任务又是另一回事,看的是单位任务成本,不是并发成本。
钱最容易漏出去的几处
我见过最典型的一次,是工具描述写了上千字,一个 Agent 挂了十来个工具,跑一轮输入就爆了。当时大家盯着模型单价争论要不要换便宜模型,其实把工具砍到三个、描述压到两行,账单立刻降下来,回答质量还没掉。这事儿麻烦在,光看单价永远发现不了。
- 工具定义太长或工具太多,模型每轮都读一遍,等于每轮多付一笔固定输入费
- 检索召回不做截断和重排,整页文档塞进去,输入量翻几倍还拉低回答质量
- 失败重试没有上限,Agent 在一个工具上反复试错,账单涨了任务没完成
- 人工审核排不上队,任务挂在那里反复调用
- 缓存没开或者缓存键设计得不对,同一段上下文重复付费
排查顺序建议固定下来:先看单任务请求次数,再看平均输入长度,最后看失败率。这三项定下来,大头就找到了。顺序别乱,先查失败率容易被偶发问题带偏。
预算怎么定,以及怎么防跑飞
预算按周设,别按月。按月的话,月底才发现超了,调整窗口已经没了。周额度还能让你在一周内看到趋势,及时收口。另外给 Agent 设步数上限和工具白名单,超过步数就中止并记录,这部分设计思路可以对照 /guides/agent-runaway-guardrails。
对高频低价值的请求做降级,用便宜模型兜底,把贵模型留给真正需要判断的环节。每月按模型层、工具层、检索层各对一次账,对不上的那层去翻日志,别整体看总数。整体看总数你只会得到一个「贵」字,什么也改不了。
什么时候这套算法不适用
三种情况别硬套。用量极小、每月调用量还在免费额度内,你该关心的是限速会不会卡住业务,不是成本。模型单价处于变动期,估出来的数很快过期,按区间估、别按点估。
还有一种,业务对延迟极度敏感、必须用最贵那档模型,这时候能动的只剩轮数和输入长度,前面那套四层拆账的意义就小了很多,重点转到单任务链路精简上。判断自己属于哪种,比背一套方法重要。
下一步把你要估的那个模型单价和计费口径先查准,再回来套上面的流程,数字才对得上。→常见问题
AI Native 和 Agent 的费用是不是就是模型调用费?
不是。模型调用只是其中一层,工具定义反复进上下文、检索召回的长文档、失败重试和人工审核都会单独产生费用,而且往往比模型层更容易超。先按四层拆开估,再对账。
没有真实用户数据,怎么估一个月要花多少?
找一个代表性任务跑通完整链路,记下请求次数和 token 消耗,换算成单次任务成本后乘预期的日任务量,再加重试余量。单次任务成本乘以量级,比拍脑袋估月费准得多。
怎么判断我的账单是模型层贵还是工具层贵?
看单任务的平均请求次数和平均输入长度。请求次数多、输入里工具定义占比高,就是工具层的问题;输入主要是文档内容,就是检索层。分开统计这两项就能定位。
预算该按什么周期控制?
按周设额度,每周对一次账。按月控制发现问题太晚,等月底看到超支已经没有调整空间,按周能在还来得及的时候收一收步数和工具数量。
便宜的模型能直接替换贵模型来省钱吗?
要看任务类型。格式固定、判断简单的环节可以降级,需要多步推理或工具编排的换便宜模型容易失败,失败重试反而更贵。先挑一两类低风险任务试替换,观察成功率和总成本再决定。