很多人搜「prompt 和 rag 多少钱」,其实是想知道自己搭一套问答要花多少。可真上手才发现:提示词本身不单独收费,钱在 token 上;RAG 也不止模型那一笔,还有切片、向量化、存储、重排。这篇先把这两类成本拆成能对上账单的几层,再给一套自己估价和压成本的顺序。
搜「prompt 和 RAG 多少钱」的人,多半不是想买一个叫 prompt 的东西。你真正想弄清楚的是:搭一套能问答的系统,钱从哪儿出、出几次、哪些是一次性的、哪些会随着用户量一起长。先把这个问题问清楚,比到处问「一个月大概多少」有用得多。
提示词这个说法容易误导。它没有独立标价,你写的每一句话最后都变成输入 token,按所选模型的单价乘以调用次数来算。RAG 也不是只有大模型那一笔,建库要向量化,存起来要占库,问答时要检索、有时还要重排。漏掉哪一层,估出来的数就对不上账单。
先把「多少钱」拆成三层,不然问不出答案
把成本拆成三层,基本就能对上账单了。第一层是每次调用都在发生的生成费用,提示词和检索片段都算在这里面;第二层是建库时花的钱,切片和向量化跑一遍;第三层是常被忘掉的固定开销,向量库存储、重排模型,还有你自己维护管线花的时间。
| 成本层 | 什么时候发生 | 跟什么成正比 |
|---|---|---|
| 提示词进上下文 | 每次调用 | 输入长度 × 调用次数 |
| 检索片段进上下文 | 每次问答 | 召回段数 × 段长 × 调用次数 |
| 建库:切片与向量化 | 首次建库、文档变更时重跑 | 文档总量 × 更新频率 |
| 向量库存储 | 持续占用 | 向量条数 × 维度 |
| 重排模型 | 每次问答(若启用) | 候选片段数 × 调用次数 |
这张表的作用是让你别把「模型单价」当成全部。很多人估完觉得便宜,上线一周发现账单翻倍,问题往往出在检索召回太多段,或者文档天天改、向量化反复重跑。
提示词这头:贵不贵看你多久发一次、发多长
同一段提示词,跑一次和跑一万次是两个故事。先把日均调用量估出来,再看模型单价,否则单价再低,乘上调用次数也吓人。这里有个常见误判:拿某个模型的月费套餐倒推单次成本,算出来的数跟实际按 token 计费对不上,因为套餐里通常有额度和限速。
长系统提示加少样本,是输入 token 涨得最快的地方。能砍的示例别都塞进去,格式约束用一两句说清楚,比堆五六个例子划算。示例只在模型真的理解不了输出格式时才值得留。
- 先记日均调用次数,再看单价,顺序反了估不准
- 数一下系统提示的字数,超过半页就问自己每句是否都必要
- 少样本示例按需保留,格式类示例留一个就够
- 输出长度也要估,长输出往往比长输入更烧钱
- 把单价换算成「一次调用大概多少」,别拿月费倒推
RAG 这头:建库只花一次,问一次才持续花钱
建库阶段的切片和向量化,属于一次性投入,但「一次性」有前提:文档不改。实际用下来,文档每周更新一次的团队,这部分成本其实是按周重复的。所以估这块之前,先问自己文档多久变一次、变了要不要全量重跑,能不能只跑改动部分。
问答阶段的开销等于检索到的片段长度乘生成单价。检索召回太多段,是最隐蔽的涨价方式,因为界面看不出区别,账单看得出来。先做个小实验:把召回段数减一半,看回答质量掉多少,掉得不多就说明之前召回过头了。
向量库和重排都是可选项。小体量文档,很多方案不依赖专门的向量库也能跑;重排能提升相关性,但不是每个场景都值得为它多付一次调用。先问自己有没有真的需要,再决定要不要上。
自己估一遍,再决定砍哪一刀
估价只需要三个数:日均调用次数、平均输入长度、平均输出长度。缺一个都估不准。把输入再拆成「提示词」和「检索片段」两块分别算,最后相加。别混成一个笼统数字,混了就不知道哪块该砍。
- 记三个数拿一周的真实日志,算出日均调用次数、平均输入长度、平均输出长度,别用拍的。
- 分层算提示词、检索片段、生成各算一份,对照 /price-watch 当时的单价,得出单次成本量级。
- 加建库与存储按文档更新频率估向量化重跑次数,再加上向量库的持续占用。
- 做减法验证先缩减提示词里的示例,再降召回段数,最后才考虑换模型。每改一项,用同一批问题对比回答质量。
砍成本的优先级,我建议按这个顺序:缩短提示词、少召回几段、降低重排使用频率、换更便宜的模型。换模型放最后,因为它对回答风格的影响最大,前面几刀砍完往往已经够用。这套顺序不适用于对回答格式要求极严的场景,那种情况下降示例可能直接让输出跑偏,得先保住格式再谈省钱。
还有一点,别忘了算你自己的时间。管线维护、文档清洗、效果调优,这些不出现在账单上,但它是真实成本。一个 5 人小团队,如果每周花半天在上面,这笔账比省下的 token 钱大。
下一步想先看看各类工具和方案的实际口径,可以去 /tools 对照目录,再回 /price-watch 把单价换成你自己的调用量。→常见问题
提示词本身要不要单独付费?
不单独付费。提示词最终作为输入 token 进入计费,所以你付的是模型按量价格乘以调用次数。省提示词本质就是省输入 token,尤其是那种每次都带一长串示例的写法。
RAG 是不是比纯提示词贵很多?
看使用方式。如果只是偶尔问答,建库那笔一次性成本可能更显眼;如果每天大量调用,检索片段和生成累加起来才是大头。先算清楚调用频次,再判断哪一头更贵。
预算有限,先砍哪一块最有效?
一般先砍提示词长度和召回片段数量,这两项对每次调用的成本影响最直接,也不影响架构。真要动模型和向量库,等前面的数都量过再说,否则容易砍错地方。