rag 和 agent 组合实战收费标准,步骤和注意事项

接入与开发

把 RAG 加 Agent 组合后的费用拆成可核算的几段,给出判断收费口径是否合理的方法和自查步骤,避免账单出问题才发现算错。

RAG 单跑、Agent 单跑,各自的钱怎么算还比较好想;两者一组合,检索会反复调、工具会循环调、上下文会越滚越长,账单就容易和预期对不上。这篇帮你先把成本拆成几段分别核算,再给出判断报价口径是否站得住的标准,以及上线前后各要做的核对动作。不承诺能省多少,只讲怎么算明白、什么情况下这套算法不适用。

RAG 单独跑的时候,钱基本花在嵌入和生成两处,心里大致有数;Agent 单独跑,主要是工具往返和上下文累积。两者一组合,麻烦就来了:检索会被反复调用,工具会一轮轮循环,上下文越滚越长。很多人是账单出来才发现,实际消耗和自己估的完全不是一回事。

这篇不承诺能省多少,也不给统一报价。只做一件事:把组合后的费用拆成几段分别核算,再给你一套判断收费口径靠不靠谱的标准,以及上线前后各要做的核对动作。具体单价一律去站内页面核对当时的数字,别用记忆里的旧口径。

先把钱拆成四段,别一口价打包看

组合调用最怕看总价。一次完整的「检索 + 生成 + 工具往返 + 必要的重试」其实横跨四个成本来源,混在一起看永远理不清。先把日志按这四段打点,再看总账,才知道钱花在哪。

成本段包含什么常见的误判
检索侧文档嵌入、向量库查询、重排默认入库一次就完事,忽略更新和查询次数
生成侧输入 token、输出 token只按单轮输入估,忽略多轮上下文膨胀
工具调用侧每次函数往返及其返回内容以为一次任务只调一次工具
编排与重试侧失败重投、多轮修正、超时重跑报价默认不计失败调用,实际账更高

四段里,生成侧是大多数人最熟的,检索和工具往返才是账单偏离预期的主因。每段的单价不要凭印象,到 /price-watch 和站内的 Token 单价换算工具核对当时的数字,再乘上你自己打点出来的次数和 token 量。

判断一个收费口径站不站得住,看这几点

不管是内部核算还是对外报价,一个能复盘的口径必须满足几个条件。下面几条是判断标准,不满足的口径不建议直接接受,先让对方补口径再说。

  • 看是否区分检索调用与生成调用:只报一个总 token 数、不说明来源的,无法复盘,不建议接受。
  • 看是否把重试与失败调用计入:Agent 循环里失败重投照样消耗额度,报价若默认不计,实际账会更高。
  • 看对上下文增长怎么处理:多轮工具返回内容进上下文会让输入侧持续变大,按单轮估算的长任务必然失准。
  • 看缓存口径是否说清:同一批文档反复被检索,命中缓存与否直接影响实际账。

还有一种情况要说清:如果只是短问答、没有工具调用的纯检索问答,用这套四段拆法属于过度设计,按单次调用估个区间就够。拆法本身是给「多轮 + 工具 + 长上下文」这类任务准备的。

上线前怎么估、上线后怎么核

估和核是两件事,顺序不能反。先把样本跑出来再外推,放量时留好刹车,上线后按天对账。下面这套顺序适用于大多数组合场景。

  1. 跑小样本拿 20 到 50 条真实问题,逐条记录平均检索次数、工具往返次数、输入输出 token 量;样本要覆盖简单题和长尾题,否则外推会偏乐观。
  2. 按四段外推把样本均值乘到预估调用量上,四段分别出数,再汇总;每段都写上数据来源(日志实测还是估算),别混着写。
  3. 设上限再放量给单个任务设步数上限和总 token 上限,超限就停并记录;验证方式是压测时观察长尾任务是否被正确截断。
  4. 按天对账上线后把日志按四段归集,找出占比最高的一段再优化;如果是工具往返多,先改流程减少往返,而不是笼统换便宜模型。
  5. 复核口径每月检查一次报价口径与实物账单是否仍对得上,模型档位或缓存策略一调整,旧口径就可能失效。

判断标准很直接:如果某一段占总成本的大头,且这段消耗和业务价值明显不匹配,就先改流程再考虑换模型。流程优化往往比换档位更有效,也更可控。

几个容易算错的地方

下面这些坑不是理论问题,是实际核算时最常翻车的地方。逐条对照你的估算表,看有没有中招。

易错点表现怎么处理
嵌入成本当零只算生成不算入库和查询到站内嵌入模型页查当时单价,按入库量和查询量分别算
按最贵模型估全流程检索侧也用最强模型检索与生成分档记账,混用后按档位分别统计
忽略重复查询同一批文档被反复检索先确认缓存口径,再按命中率折算检索侧成本
只算钱不算时间多轮循环延迟高但成本看着不高收费标准与延迟一起看,体验不达标再便宜也没意义

把上面四段、几条判断标准和这套核查顺序走一遍,账单出问题时你至少能定位到是哪一段偏了。想横向比一比不同接入方式的实际花费,可以到 /rankings 看当时整理的数据,再结合自己的实测样本做决定。

下一步按四段拆法把你的日志先打点一周,再拿着实测数字去站内价格页核对当时单价;口径对不上,先回来改流程,不要急着换方案。

常见问题

RAG 加 Agent 组合后,为什么账单比单跑高出很多?

主要多在两处:检索和工具往返被反复调用,以及多轮返回内容让上下文持续变长,输入侧 token 一路上涨。先把四段成本分别打点,再看是哪一段超了,不要直接归因到模型单价。

看到一个打包报价,怎么判断它合不合理?

要求它拆开讲清检索、生成、工具往返、重试各算多少次、按什么单价。讲不清来源和口径的打包价无法复盘,不建议直接接受;能拆开但某项明显低于常识的,也要问清是不是没算全。

小团队没有专门的成本系统,怎么先把账管住?

先设硬上限:单任务步数上限、总 token 上限、单日预算上限,超了就停。同时把每次调用的段落归属记进日志,跑两周就能看出哪段最贵,再决定优化方向。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。