搜「提示词工程和 RAG 收费标准」的人,多半是在做预算,或者账单出来后觉得不对劲。这两件事经常被混成一笔账:提示词工程的钱主要花在人身上,写一次能复用很久;RAG 的钱是常驻的,建库、检索、把资料塞进上下文,每次问答都在付。这篇帮你把两层拆开,给一套能自己往下算的判断办法。
搜这个词的人,多半正卡在预算表上,或者账单出来发现比预想的多了一截。麻烦在于,提示词工程和 RAG 经常被记成同一笔账,实际它们烧钱的位置完全不一样:一个主要花人的时间,一个跟着调用量月月往外走。
所以别急着问「一共要多少钱」。先问自己:这笔支出是一次性的,还是每次请求都在重复付?把这两层拆开,你才能知道该在哪一头省钱、哪一头省不掉。
先把两笔钱放在不同的抽屉里
提示词工程的钱,本质是人力成本。写第一版花不了多久,真正吃时间的是改到稳定——换措辞、补边界条件、试不同的输出格式。这笔钱付完,系统跑起来不会因为你多问几次就变贵,它属于上线前的一次性或低频投入。
RAG 不一样,它是常驻的。建库那一下要清洗文档、切片、跑嵌入模型,按处理的文本量计费;之后再怎么问答,检索和把召回片段拼进上下文都在持续消耗。同样是「贵」,一个是开业前装修,一个是每月水电,混着看必然算错。
| 支出项 | 什么时候花 | 跟什么挂钩 |
|---|---|---|
| 提示词反复调试 | 上线前为主,改动时再来一轮 | 人的时间和试错次数 |
| 文档清洗与切片 | 建库时,更新时 | 文档总量、切片粒度 |
| 嵌入计算 | 建库和增量更新 | 处理的文本量 |
| 每次检索与拼接上下文 | 每一次问答 | 召回条数、片段长度、调用量 |
提示词这块,钱和时间容易花在哪
最常见的浪费是没定验收标准就开始改。凭感觉调,改十版也说不清哪版更好。我的做法是先攒一小批固定用例,十几条就够,覆盖你们真实会问的几类问题,每改一版对一次结果,改到不再翻车就停手。
另一个坑是用长提示词换稳定。系统提示越写越长、少样本示例越塞越多,输出确实稳了,但每次请求的输入 token 也跟着涨,这部分是实打实按月出的。稳定性和成本得放一起看,别只顾一头。
- 先定验收用例,再动手改,别凭感觉判断好坏
- 重复的前缀(系统提示、固定示例)能缓存就利用,这是最容易省下的一块
- 需求长期不变、又没人维护的场景,不值得投入大量人力做精调式打磨
- 提示词改动要留版本记录,否则出问题回不到上一版
RAG 的账要按「建库一次 + 每问一次」分开算
建库成本主要看文档总量和切片策略。切得太碎,向量条数暴涨,嵌入费用和存储一起涨,检索时还容易召回一堆没用的碎片。切片粒度这件事值得花半天认真调,省下来的是长期开销。
每问一次的成本,取决于召回几条、每条多长。召回数量往上加,拼进上下文的字就多,输入 token 跟着涨,但回答质量不一定跟着涨。很多场景召回三五条和召回十条,答案差不多,账单差一截。
- 统计三个基础数文档总量、更新频率、日均问答次数。缺一个都估不准,先花一天把这几个数拉出来。
- 分清计费口径嵌入模型和对话模型各按什么计费,分别去站内价格页核对,别拿对话模型的价格去估嵌入。
- 设片段上限给召回条数定一个硬上限,并记录每次实际带进去多少字,跑一周看趋势。
- 回看账单结构是检索次数在涨,还是单次上下文在变长,两种情况的优化动作完全不同。具体单次费用到 /price-watch 核对当时的数字。
什么情况下该往哪边投
判断标准就一条:答案是否依赖你们自己的、还会变的资料。依赖,RAG 就是刚需,这笔钱省不掉,只能靠调切片和召回精度去抠;不依赖,只是想让输出格式稳、语气统一、少瞎编,那优先在提示词上下功夫,成本可控得多。
两类都要做的时候,别一上来就全套铺开。拿同一批真实问题,一边改提示词、一边加检索,各跑一遍对比,看提升到底落在哪一层。哪层提升明显,钱就往哪层投。
反过来也有不适用的情况。调用量极低、问题种类很杂的一次性任务,搭 RAG 的固定成本根本摊不回来,直接用长上下文把资料喂进去更省事。这时候硬上检索,属于自己给自己加运维负担。
动手前的核对清单
下面几条是开工前的自查,答不上来的先别急着写代码。预算算不准,通常不是数字难找,是前提没想清楚。
- 文档总量、更新频率、日均问答次数,三个数齐了没
- 嵌入模型和对话模型的计费口径分别确认过没,去站内价格页对一遍
- 检索片段数的上限定了没,有没有记录每次实际带进去多少字
- 跑一周后有没有回头看:涨的是调用次数还是单次上下文长度
- 提示词改动有没有版本记录和固定的验收用例
还有一条容易漏:资料更新频繁的场景,重建或增量更新的频率本身就是持续支出。这部分不体现在单次问答里,但会稳定出现在月度账单上,做预算时得单独留一行。
下一步拿你们真实的文档量和调用习惯,去站内价格页把嵌入和对话两笔费用分别估一遍,再决定先投哪一层。→常见问题
提示词工程本身要单独付费吗?
一般不用。它花的是你自己或团队的时间,API 侧只体现为你写进请求里的那些文字占用的 token。所以判断值不值,看的是反复调试投入的人力,以及长提示词带来的持续输入成本。
RAG 是不是一定要建向量库,费用很高?
不一定。文档少、问题范围窄的时候,用关键词检索甚至直接把资料塞进上下文都能跑。向量库的价值在资料量大且需要语义召回时才明显,规模没到那一步就先别上。
怎么快速估出一个月大概花多少?
拿一批真实问题跑一遍,记录平均每次带进多少字、检索几次,再乘上预估调用量。单价去站内价格页面对当期的数字,别用记下来的旧数。