很多人搜这个问题,其实是在纠结一个具体动作:手上这个助手的方案还能用,但有人提议上agent。翻一圈介绍,结论都是agent更贵,可贵多少、贵在哪、值不值,没人说清。这篇不谈概念定义,只拆账单结构,给一张能对着自己场景填的判断表,以及一套先小范围试、再决定升不升的顺序。
搜这个问题的人,多半手上已经有个能用的助手方案,然后有人提议上 agent。翻一圈介绍,都是「agent 更贵」,可贵多少、贵在哪、值不值,说得很虚。这篇不谈概念,只拆账单结构:钱到底多花在哪一层,怎么拿自己的场景对一遍,以及先试哪一步、别急着试哪一步。
先说结论方向:差额通常不在模型单价上,而在「一件事被拆成多少次调用、上下文被重发多少遍、工具那一侧塞进来多少字」这三段。你现在用的是同一个模型,做同一件事,换成 agent 之后账单可能是助手方案的几倍,也可能只多一点点,差别全在这三段怎么长。具体单价别用记忆里的数,到 /official-api 和 /tools/token-price-calculator 按当时的数字核算。
先分清你付的是哪三种调用
传统助手的花钱方式很直白:你问一句,它答一句,一次调用付输入和输出两端的钱。对话长了,你自己会新开一轮,账单自然被切断。agent 不是这样。一个任务里,它想一步、调一个工具、把工具结果塞回上下文、再想下一步,这个循环跑几轮就是几次调用。同样一件事,助手是一问一答,agent 是转好几圈。
- 第一层差别是调用次数:一个任务从 1 次变成 3 到 10 次,单价没变,乘数变了
- 第二层是上下文重发:每转一圈,前面的历史都得跟着再发一次,轮次越多叠得越狠
- 第三层是工具那一侧:工具本身可能免费,但返回内容要进上下文,字越多下一步越贵
- 三层不是相加关系,是相乘关系,任何一层失控都会让总账突然跳起来
实际核算时别只算「一次问答多少钱」,要算「这件事从头到尾多少钱」。到 /tools/token-price-calculator 里按一次任务的完整步数去填,而不是按一轮填。这一步做错,后面所有判断都是歪的。
账单里最容易被忽略的,是上下文被反复重发
这条最坑人。agent 每多走一轮,前几轮说过的话、工具返回的原始内容,都要重新塞进这次请求里。跑三轮还能忍,跑到第八轮、第十轮,单次请求的输入可能已经膨胀到第一轮的很多倍。很多人看到账单涨了第一反应是「模型是不是变贵了」,其实模型单价一分没动,是历史堆得太重。
助手方案里这条线反而不明显,因为大家习惯聊长了就新开一轮,天然把历史切断。agent 里这个动作没人做,一路挂着跑到任务结束,上下文就一路长。判断自己有没有这个问题,算一个比值:一次任务的实际输入 token 总量除以这个任务的步数。比值远高于单轮输入,说明历史在反复重发。
- 测一次真实任务挑一个你日常真会跑的任务,开日志,记录每一轮的输入 token,加起来除以步数
- 对比单轮基线拿同一件事的助手版本,记一次问答的输入 token,跟上面那个比值放一起看
- 判断是否膨胀比值明显高于单轮基线,就是上下文重发在推账单,先去治这个,别急着换模型
同类任务的实际用量分布,可以到 /price-watch 和你自己的用量页面对一遍,别只凭印象估。印象里的「差不多」和日志里的数字,经常差一截。
工具那一层:看着免费,其实在别处收钱
接工具的时候大家都盯着「这个 API 收不收费」,却忘了工具返回的内容要原样进上下文。一个搜索工具返回一大段网页原文,下一步模型读的就是这一大段,钱在这里收。工具越多,模型每轮还要额外读一遍所有工具的描述,这笔固定开销也跑不掉。
常见误判是把工具数量当能力展示。接了七八个工具,觉得阵容强大,实际每轮请求都带着七八份工具描述在跑。我的建议是先只留两三个必需工具,流程跑通再按需加,加一个就记一次用量对比,涨得离谱的那个就是嫌疑。
| 常见做法 | 账单上的后果 | 改法 |
|---|---|---|
| 一次注册很多工具 | 每轮都带着全部工具描述,固定开销抬高 | 只留必需的两三个,其余先摘掉 |
| 工具返回整段原文 | 下一步输入被撑大 | 返回前截断或只取需要的字段 |
| 任务不设步数上限 | 跑飞了才发现,账单已经生成 | 设步数上限,超了直接停 |
| 历史一直挂着不断 | 上下文反复重发 | 到一定轮次强制总结或新开 |
工具怎么挑、描述怎么写才不啰嗦,站内 /stacks/agent-apis 有一份清单可以对着看,别自己从零攒一套。
什么情况下该升档,什么情况下别急着升
判断不该靠「别人都在用」,而该靠这件事本身的形状。适合升 agent 的任务,通常要多步才能完成,每一步的结果会影响下一步怎么走,中途还得查外部数据,而且大概几步能跑完是心里有数的。反过来,一问一答就能答完、答案不依赖外部状态、对延迟敏感、出错代价高但可以人工兜底的,留在助手更划算。
有一种情况要单独说清:步骤完全不可预估的任务,先别上 agent。这类任务跑起来没有终点感,模型自己也不知道该转几圈,很容易跑飞,账单和结果一起失控。更稳的做法是人工先把步骤拆出来,拆得出来再谈自动化。
把判断压成一句话:能不能把这件事画成三步以内的流程图。画得出来,agent 有戏;画不出来,先留在助手,或者先人工拆。
真要上,先把刹车装好再踩油门
决定试了,第一件事不是调 prompt,是装限制。步数上限、单次任务成本上限,两个都得设,超了直接停,别等月底对账单才发现。工具走白名单,不用的注册掉,模型看不到就不会想着去调,这比反复叮嘱它「别乱用工具」有用得多。
- 设最大步数,比如超过若干轮强制结束并输出当前结果
- 设单次任务成本上限,按当时单价算好阈值再填
- 工具白名单,没用的从注册表里摘掉
- 每轮记录输入 token 和步数,出问题能定位是哪一轮开始膨胀
- 固定一批回归任务,改动后重跑,看用量有没有异常跳变
上线前先用 /tools/model-cost-calculator 把单次任务成本算一遍,心里有个数。算出来的数和你日志里跑出来的数对得上,说明模型选型和步数估计都靠谱;对不上,先查是哪一层估错了。
一张对着自己场景填的表
下面四个格子,拿你手上那个具体任务逐个填。别填「大概」「看情况」,填具体的判断。四个格子都偏助手那一侧,就老实留在助手;有两个以上偏 agent 那一侧,才值得做小范围试跑。
| 判断项 | 偏向留在助手 | 偏向试 agent |
|---|---|---|
| 步骤是否可预估 | 说不清几步能完 | 大概几步心里有数 |
| 是否依赖外部数据 | 答案靠已有知识就够 | 中途必须查外部状态 |
| 出错能否人工兜底 | 错了代价高、必须人看 | 错了可以重跑或人工修 |
| 延迟是否敏感 | 用户等着要即时回复 | 可以接受跑一会儿再给结果 |
试跑阶段别只看单次贵不贵,用固定的一批真实任务跑完,对比总用量和完成率两个数。单次贵但一次就成,可能比便宜但老要重试更划算。跑不动的任务记下来,那才是升档真正的理由。
上线顺序:先一个任务,再一类任务
顺序错了,钱和时间一起浪费。先挑一个步骤最少、最容易验证的任务做 agent 版本,和原来的助手版本并排跑几天。并排期间只看两件事:完成率有没有提升,总用量涨了多少。这两件事都往好的方向走,才谈扩量。
涨得离谱,先回到上下文和工具那两层找原因,别一上来就换模型。多数时候不是模型不行,是历史堆太重、工具返回太啰嗦。改完再跑同一批任务对比,改对了数字会自己说话。跑顺了再扩到同类任务,别一次把整个流程全换掉,出了事都分不清是哪一步坏的。
还有一点:扩量之前把用量监控打开,按任务维度看,而不是按天看总数。按天看只能看到涨了,看不到是哪类任务涨的,排查起来很被动。
下一步拿你手上那个任务,先去算一遍完整任务的成本,再对着判断表填四个格子;单价和用量分布到站内页面按当时的数字核对,别用记忆里的数。→常见问题
同样的任务,agent一定比传统助手贵吗
不一定。任务本身很短、步骤固定时,agent多出来的调度轮次确实更贵。但如果助手方案要靠人来回追问好几轮才能完成,人的时间和来回调用加起来未必便宜。建议用同一批任务各跑一遍,比总用量和完成率,而不是只比单次价格。
预算有限,能不能先用助手凑合
能。判断标准是这件事能不能用一段话说清、答案需不需要中途查外部数据。都不需要,助手就够用。真正该升档的是那些步骤可数、每步结果影响下一步的任务,这类任务用助手硬撑往往要人反复补话,反而更累。
agent跑起来账单失控,最常见的起点是哪
多半是上下文越滚越大和工具注册太多这两处。轮次一多,历史全量重发;工具一多,每轮都要读一遍描述。先把工具白名单收到最小,再给步数设上限,这两件事做完再看账单,通常会回到能解释的范围。
怎么判断多花的钱值不值
看它替掉的是谁的时间。原来要人拆步骤、查资料、贴回来的活,现在一次任务跑完,就按人工小时折算。折不过来就说明这个任务还不该用agent,或者工具和上下文还没收拾干净,先优化再谈升档。
要不要一上来就换成更贵的模型
不建议。多数差额来自调用结构和上下文,不是模型单价。先把步数、工具数量、历史裁剪这三处理顺,同一件事的用量往往能降下来一截,再考虑模型那一层。单价和当期数字到 /official-api 核对,别用旧数推算。