ai里的prompt和rag收费标准:一年下来多花的钱藏在哪几处

接入与开发

把prompt和RAG两类支出分开算,讲清哪些钱是一次性的、哪些是每次调用都在发生的,给一套能自己套用的年度预算拆账方法。

做RAG的人常把账算成一笔:以为花了模型调用费就完了。真跑满一年才发现,提示词那一侧的成本随对话轮数涨,检索那一侧的成本随文档量和重建频次涨,两条曲线的斜率根本不一样。这篇不报具体数字,只给拆账口径:怎么把一年支出分成几格、每格该去哪查当时的价、什么情况下这套算法不适用。

做 RAG 的人算账,习惯把它当成一笔:模型调用费。真跑满一年才发现,账本里其实躺着两条完全不同的曲线——一条跟着用户聊多久涨,一条跟着文档有多少、重建多勤涨。把两条曲线混成一条,年底复盘就只能看个总数,说不清哪块变贵了。

这篇不摆具体数字,只讲拆账口径:一年支出怎么分成几格、每格该去哪个站内页面核对当时的价、什么情况下这套算法就不适用了。先把两条曲线分开,后面的表格才填得进去。

提示词和RAG的钱不是一条线,是两条斜率不同的曲线

提示词这一侧的成本,跟着「对话轮数乘以上下文长度」走。用户多聊两轮、系统提示词多塞两段示例、历史对话全带上,单次请求的字数就往上爬,而且跟你有多少文档基本无关。RAG 那一侧反过来,跟文档量和重建频次挂钩,跟用户聊多久关系不大——索引建好放着,没人提问它不花钱。

真麻烦的地方在两条线交叉。月底账单涨了,团队第一反应往往是「模型涨价了吧」,其实最常见的真相是上下文越堆越长:切片策略改了、召回条数调多了、历史对话忘了截断,每一次都在提示词那一侧加钱。先怀疑自己的组装逻辑,再去怀疑单价。

  • 提示词侧:盯对话轮数、上下文长度、固定前缀能不能复用
  • RAG 侧:盯文档总量、增量更新频率、每次查询召回几条
  • 叠加时:把涨幅按这两侧拆开,别一股脑算在模型单价上

先分清楚哪几笔钱是一次性的、哪几笔是每跑一次就产生

拆账第一步不是打开账单,是问一句:这段代码不改,明天还会不会再花一次钱?答案会花钱的,归进「每次发生」;答案是一次性调完就不用再动的,归进「一次性」;介于中间的,归进「按周期发生」。这三类混在一张账单里,永远对不上。

支出类别典型动作计费节奏
一次性文档清洗、切片方案调试、索引首次构建、提示词模板调通做完就停,主要是工时加少量试错调用
每次发生生成调用、嵌入调用、重排调用、检索服务常驻开销每提问一次就记一笔
按周期发生文档增量更新重新嵌入、提示词版本迭代后的回归测试按月或按文档变更触发

这张表的价值在于它逼你把「一次性」认出来。很多人做年度预算时把索引首次构建的成本按月摊,结果每月预算虚高;反过来,有人忘了把提示词迭代算进去,每改一次模板就重跑一轮回归,这笔钱全是计划外的。

提示词这一侧:贵的地方往往不在你写的那几句话

写提示词时人是盯着那几句指令的,但真正进账单的是组装后的整段上下文:系统提示词、few-shot 示例、历史对话、检索回来的片段,统统算字数,单价一样,量能差出好几倍。你以为在优化措辞,其实在优化的是每次请求实际塞进去多少字。

这里有道分水岭:固定不变的前缀能不能命中缓存。系统提示词和示例如果每次请求都一模一样,命中缓存和每次都全量计费,是两种完全不同的成本结构。做法不复杂,把固定部分放在最前面、变化部分放到后面,再核对当前服务商的缓存计费规则是否覆盖这种结构。

还有一个常见误判:模板越复杂越贵。不一定。复杂模板如果只是分支多、每次只走一条,未必贵;简单模板如果把整段历史都带上,反而更贵。判断标准就一条,看每次请求实际发出去多少字,而不是看模板文件多长。

RAG这一侧:构建和查询要分开记,混在一起永远算不清

RAG 的成本必须切成两段记。构建段:文档解析、切片、嵌入、写进索引,只在新增或变更文档时发生,低频但单次金额可能不小。查询段:把问题向量化、召回、重排、拼进提示词,每次提问都在发生,单次小但架不住次数多。两段混着记,你永远说不清是索引太贵还是查询太贵。

  1. 先分开记两本账构建段的支出按「文档批次」记,查询段的支出按「请求次数」记,两本账不合并。
  2. 再看重建策略定时全量重建属于低频大额,按变更增量属于高频小额。这个选择对成本的影响,通常比换不换嵌入模型更大。
  3. 最后定位哪段在拖查询段贵就去查召回条数、重排是否必要、有没有重复向量化同一句话;构建段贵就去查切片粒度、是否全量重建、解析环节有没有重复处理。

定位顺序别搞反。一看到账单涨就换嵌入模型,是最常见的白费功夫——多半问题出在召回条数从几条调成了十几条,或者每次提问都把同一段文本重新嵌入了一遍。先按检索质量排查的思路把链路上的多余动作找出来,再谈换模型。

自己动手:一张四格的年度预算表怎么填

预算表不用做得花哨,四格够用:调用量、单价、发生周期、缓冲。四格填完,一年的钱大致就有轮廓了。关键是每一格都别凭记忆填。

  • 第一格调用量:按真实用量估,别按峰值估,参考站内用量统计的口径对齐
  • 第二格单价:一律去官方 API 价格页和模型成本计算器取当时的数字
  • 第三格周期:标清哪些按月发生、哪些按文档更新发生、哪些只在改提示词时发生
  • 第四格缓冲:给提示词迭代和索引重建留一段,不写进预算的迭代最后都变成超支

第三格最容易糊。文档更新是每周还是每月、提示词迭代是一季一次还是想起来就改,这两个频率直接决定按周期发生的支出有多少。写下来,别放在脑子里,季度对账时才有依据。

下一步把手上项目的调用量、单价、周期先填进四格表,单价那一栏直接去价格页取当时的数字,别用记忆里的旧价。

这套算法什么时候不适用

拆这么细有前提。流量极小、一天几十次调用的项目,拆账的收益不如直接看月度账单,四格表填起来费劲还容易失真。这种情况下先用账单总额加一句备注就够了,等量级上来再拆。

另一种情况是服务处于免费额度内。这时候成本结构被额度边界扭曲,拆出来的是额度消耗而不是钱,参考意义有限,先去核对免费额度的计费规则,搞清楚超出后怎么算,再决定要不要建表。

还有一种:已有成熟缓存层且命中率很高。这时上下文成本被大幅摊薄,按原始字数估会严重高估提示词侧的开销。判断办法是看实际计费的输入字数和原始组装字数差多少,差得远就说明缓存层在起作用,估法要跟着改。

动手前的对照清单

最后给一份开工前能逐条打勾的清单。不用全做,但每条都对应一处容易漏的钱。

  • 提示词里哪些部分固定、哪些每次变,固定部分有没有走缓存
  • 索引重建是定时全量还是按变更增量,频率写下来了没有
  • 嵌入和生成是不是同一家服务,不是的话分开记两笔
  • 召回条数和重排环节是否必要,有没有重复向量化同一段文本
  • 三项写进一张表:调用量、当时单价、发生周期,季度对一次
账算不清,通常不是单价记错了,是两条曲线被当成了一条。

常见问题

提示词和RAG要分开算钱吗?合成一笔会怎样?

建议分开。合成一笔的话,涨了也说不清是对话变长还是文档变多,调整起来只能瞎试。分开记之后,哪一格在涨一眼能看出来,改的方向也就明确了。

RAG的嵌入费用是一次性的吗?

不是。首次建索引是一次性的,但文档更新、切片方案调整、换嵌入模型都会触发重新嵌入,这部分按周期反复发生。把它当成一次性支出,是年度预算超支最常见的原因之一。

提示词写得长就一定更贵吗?

长不是关键,变才是。固定前缀如果能命中缓存,重复部分成本会被摊薄;真正贵的是每次都不同、无法复用的那部分,比如长历史对话和每次检索回来的片段。

没有真实用量数据,怎么估第一年的量?

先用小样本跑一周,记下平均每次请求的上下文长度和每日请求数,再乘周期。宁可低估再留一段缓冲,也别按峰值乘十二个月,那样算出来的数只会让人不敢动手。

什么时候可以不用拆这么细?

用量小、还在免费额度里、或者只是验证阶段,看月度账单就够了。等账单开始出现说不清的涨幅,再回头补这张四格表,成本更低。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。