提示词工程和RAG收费标准:多花的钱其实不在同一层

接入与开发

把提示词工程和 RAG 的钱分开算:哪些是一次性人力、哪些是每次调用都在烧的 token,以及怎么按自己的场景判断该投哪一头。

搜「提示词工程和 RAG 收费标准」的人,多半是在做预算,或者账单出来后觉得不对劲。这两件事经常被混成一笔账:提示词工程的钱主要花在人身上,写一次能复用很久;RAG 的钱是常驻的,建库、检索、把资料塞进上下文,每次问答都在付。这篇帮你把两层拆开,给一套能自己往下算的判断办法。

搜这个词的人,多半正卡在预算表上,或者账单出来发现比预想的多了一截。麻烦在于,提示词工程和 RAG 经常被记成同一笔账,实际它们烧钱的位置完全不一样:一个主要花人的时间,一个跟着调用量月月往外走。

所以别急着问「一共要多少钱」。先问自己:这笔支出是一次性的,还是每次请求都在重复付?把这两层拆开,你才能知道该在哪一头省钱、哪一头省不掉。

先把两笔钱放在不同的抽屉里

提示词工程的钱,本质是人力成本。写第一版花不了多久,真正吃时间的是改到稳定——换措辞、补边界条件、试不同的输出格式。这笔钱付完,系统跑起来不会因为你多问几次就变贵,它属于上线前的一次性或低频投入。

RAG 不一样,它是常驻的。建库那一下要清洗文档、切片、跑嵌入模型,按处理的文本量计费;之后再怎么问答,检索和把召回片段拼进上下文都在持续消耗。同样是「贵」,一个是开业前装修,一个是每月水电,混着看必然算错。

支出项什么时候花跟什么挂钩
提示词反复调试上线前为主,改动时再来一轮人的时间和试错次数
文档清洗与切片建库时,更新时文档总量、切片粒度
嵌入计算建库和增量更新处理的文本量
每次检索与拼接上下文每一次问答召回条数、片段长度、调用量

提示词这块,钱和时间容易花在哪

最常见的浪费是没定验收标准就开始改。凭感觉调,改十版也说不清哪版更好。我的做法是先攒一小批固定用例,十几条就够,覆盖你们真实会问的几类问题,每改一版对一次结果,改到不再翻车就停手。

另一个坑是用长提示词换稳定。系统提示越写越长、少样本示例越塞越多,输出确实稳了,但每次请求的输入 token 也跟着涨,这部分是实打实按月出的。稳定性和成本得放一起看,别只顾一头。

  • 先定验收用例,再动手改,别凭感觉判断好坏
  • 重复的前缀(系统提示、固定示例)能缓存就利用,这是最容易省下的一块
  • 需求长期不变、又没人维护的场景,不值得投入大量人力做精调式打磨
  • 提示词改动要留版本记录,否则出问题回不到上一版

RAG 的账要按「建库一次 + 每问一次」分开算

建库成本主要看文档总量和切片策略。切得太碎,向量条数暴涨,嵌入费用和存储一起涨,检索时还容易召回一堆没用的碎片。切片粒度这件事值得花半天认真调,省下来的是长期开销。

每问一次的成本,取决于召回几条、每条多长。召回数量往上加,拼进上下文的字就多,输入 token 跟着涨,但回答质量不一定跟着涨。很多场景召回三五条和召回十条,答案差不多,账单差一截。

  1. 统计三个基础数文档总量、更新频率、日均问答次数。缺一个都估不准,先花一天把这几个数拉出来。
  2. 分清计费口径嵌入模型和对话模型各按什么计费,分别去站内价格页核对,别拿对话模型的价格去估嵌入。
  3. 设片段上限给召回条数定一个硬上限,并记录每次实际带进去多少字,跑一周看趋势。
  4. 回看账单结构是检索次数在涨,还是单次上下文在变长,两种情况的优化动作完全不同。具体单次费用到 /price-watch 核对当时的数字。

什么情况下该往哪边投

判断标准就一条:答案是否依赖你们自己的、还会变的资料。依赖,RAG 就是刚需,这笔钱省不掉,只能靠调切片和召回精度去抠;不依赖,只是想让输出格式稳、语气统一、少瞎编,那优先在提示词上下功夫,成本可控得多。

两类都要做的时候,别一上来就全套铺开。拿同一批真实问题,一边改提示词、一边加检索,各跑一遍对比,看提升到底落在哪一层。哪层提升明显,钱就往哪层投。

反过来也有不适用的情况。调用量极低、问题种类很杂的一次性任务,搭 RAG 的固定成本根本摊不回来,直接用长上下文把资料喂进去更省事。这时候硬上检索,属于自己给自己加运维负担。

动手前的核对清单

下面几条是开工前的自查,答不上来的先别急着写代码。预算算不准,通常不是数字难找,是前提没想清楚。

  • 文档总量、更新频率、日均问答次数,三个数齐了没
  • 嵌入模型和对话模型的计费口径分别确认过没,去站内价格页对一遍
  • 检索片段数的上限定了没,有没有记录每次实际带进去多少字
  • 跑一周后有没有回头看:涨的是调用次数还是单次上下文长度
  • 提示词改动有没有版本记录和固定的验收用例

还有一条容易漏:资料更新频繁的场景,重建或增量更新的频率本身就是持续支出。这部分不体现在单次问答里,但会稳定出现在月度账单上,做预算时得单独留一行。

下一步拿你们真实的文档量和调用习惯,去站内价格页把嵌入和对话两笔费用分别估一遍,再决定先投哪一层。

常见问题

提示词工程本身要单独付费吗?

一般不用。它花的是你自己或团队的时间,API 侧只体现为你写进请求里的那些文字占用的 token。所以判断值不值,看的是反复调试投入的人力,以及长提示词带来的持续输入成本。

RAG 是不是一定要建向量库,费用很高?

不一定。文档少、问题范围窄的时候,用关键词检索甚至直接把资料塞进上下文都能跑。向量库的价值在资料量大且需要语义召回时才明显,规模没到那一步就先别上。

怎么快速估出一个月大概花多少?

拿一批真实问题跑一遍,记录平均每次带进多少字、检索几次,再乘上预估调用量。单价去站内价格页面对当期的数字,别用记下来的旧数。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。