提示词工程和RAG收费标准,钱到底花在哪个环节

接入与开发

拆开提示词工程和RAG各自的收费构成,给一套判断口径:哪些钱花在调用上、哪些花在检索和存储上,怎么估自己这摊活该按哪档走。

搜「提示词工程和rag收费标准」的人,多半是在做一个带知识库的问答或客服类应用,报价单拿到手发现比自己想的贵。贵的原因往往不在模型单价上,而在你没算进去的那几段:文档切分后的嵌入调用、每轮检索带回来的上下文、以及为了稳定输出反复调提示词产生的重复请求。这篇把这几笔账分开摆,给一套能照着算的口径和判断标准。

搜「提示词工程和RAG收费标准」的人,多半是在做一个带知识库的问答或客服类应用,报价单拿到手发现比自己想的贵。贵的地方往往不在模型单价上,而在你没算进去的那几段:文档切分后的嵌入调用、每轮检索带回来的上下文、以及为了稳定输出反复调提示词产生的重复请求。

这篇不背书单价表,只把这几笔账拆开摆,给一套能照着算的口径。有一点先记住:问「RAG多少钱」,真正该问的是用量结构。单价去站内核对当时的数字就行,结构不对,单价看得再细也估不准。

先把两笔钱分开:提示词工程和RAG不是一个收费口径

提示词工程本身几乎没有独立的收费项。它花的是调用费——同一个问题反复试模板,每次试都是一次完整请求,试二十版就是二十次的钱。所以这块的成本不在「工程」上,在你的试错次数上。RAG就复杂了,它在一次普通调用之外多出三笔:文档切片后的嵌入调用、检索时的向量查询、以及拼进上下文的token。

环节什么时候花钱容易被谁忽略
提示词调试每次试模板都算一次完整请求写提示的人自己
文档嵌入入库时每个切片算一次,重切重算做数据接入的人
向量查询每次问答检索都要查按请求量算账的人
上下文token检索片段+问题+历史全部计入所有人,通常最贵

嵌入和存储这一段,最容易被漏算

文档入库时每个切片都要算一次嵌入,切片越小条数越多,嵌入调用量成倍涨。一份文档切成两百条和切成八百条,嵌入成本差四倍,而很多人是按「文档份数」估的,一开始就估错了。更麻烦的是更新:文档改了、切片策略调了,都得重新算一遍,这不是一次性支出。

向量库这块要分两种口径看。自建看机器和运维,托管看存量条数和查询量。两者不能混着比——自建前期便宜但要把运维人力算进去,托管省心但查询量上来后账单曲线会变陡。拿不准时,先按自己的文档量到站内工具页面跑一遍两种口径的估算,再决定。

  • 先数清楚文档份数、平均切片条数、预计更新频率这三个数,缺一个都估不准
  • 切片策略别一上来就切到最碎,先按实际问答粒度试,切太碎嵌入调用量翻倍
  • 文档更新走增量入库,别每次全量重跑,重切策略前想清楚是不是非改不可
  • 向量库选型前,把月查询量估一个上限,按上限比价而不是按当前量

每轮问答带的上下文,才是运行期的大头

检索回来的片段全部塞进提示词,长文档场景下一轮就可能吃掉大半预算。这事儿麻烦在它随请求量线性放大:单次看起来不多,日请求量一上去就是主项。命中几条、每条多长、要不要rerank,是三个可以单独调的旋钮,别把它们当成一个整体。

  1. 量一次真实请求挑几条典型问题,把实际发出去的提示词完整打出来,数清各段各占多少token。别凭感觉估。
  2. 找到占比最大的那段通常是检索片段。先看它是不是把不相关的也塞进去了,命中条数是不是给多了。
  3. 调旋钮再对比缩片段长度或减命中条数,同一批问题重跑,看回答质量掉多少。掉得可接受就定下来。
  4. 最后才动模型上下文压到刚好够用之后,如果还贵,再考虑换模型或分层调用。顺序反了会白折腾。

按什么判断自己该按哪档走

内部知识库、日请求量小,优先保效果,切片和上下文宽松一点,成本影响有限,为了省一点钱把召回调差反而不值。对外产品、请求量上来之后就不一样了,先把上下文和检索条数压到刚好够用,再回头看单价——这时候单价才有意义。

文档量大又常更新是第三种情况。嵌入重算的成本会慢慢追上调用费,得从一开始就设计增量入库,而不是等账单涨上来再改。这个判断不适用于文档基本不动、只偶尔补几篇的场景,那种情况做增量是过度设计。

上手前的核对清单

四个数:文档量、平均切片数、日请求数、平均上下文长度。这四个数齐了,成本估个大概不难;缺任何一个,报价单都只能靠猜。用站内工具按这四个数跑一遍,别对着单价表口算,口算漏掉的那几段往往就是差价所在。

  • 上线前留一次对照:同一批问题,宽上下文和紧上下文各跑一遍,记录效果差多少
  • 嵌入调用单独记一条账,别和普通调用混在一起,混了就看不出来是哪块涨的
  • 检索命中条数设个默认值,别让每次请求都按最大条数拼上下文
  • 更新策略写进文档,谁改切片参数谁负责重算嵌入,避免没人认账
下一步把文档量、切片数、日请求数、上下文长度这四个数带到站内成本估算工具里跑一遍,对照当时的单价看哪一段占大头,再回头决定先压上下文还是先调切片。

常见问题

提示词工程需要单独付费吗?

一般不用。它花的是你自己的调用费和时间,反复试模板等于反复发请求。真要说成本,就是那段调试期的重复请求量,以及后面为了让输出稳定而多加的示例、说明所占的token。

RAG的嵌入费用是一次性的吗?

不是。首次入库算一遍,文档更新、重新切片、换嵌入模型都要重算。文档量大且更新频繁时,这笔钱会持续产生,估预算时要按更新频率摊到每个月。

同样的问题,为什么两次调用价格差很多?

多半是检索回来的片段不一样,带进上下文的长度就不同。先把每次请求的输入token记下来看分布,再决定是限制检索条数还是压缩片段,不要直接怀疑单价。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。