搜「RAG和传统检索多少钱」的人,多半是在算一笔还没发生的账:手上有个关键词搜索或数据库模糊查询跑得还行,但回答质量上不去,于是想加向量检索和模型生成,又怕费用失控。这篇不报具体数字,只给拆账口径、升档判断线和一份可以照着走的核对清单,数字部分告诉你去站内哪一页看当时的报价。
搜「RAG和传统检索多少钱」的人,多半在算一笔还没发生的账。手上有个关键词搜索或者数据库模糊查询,跑着也还行,就是回答质量上不去;想加向量检索和模型生成,又怕费用失控,毕竟听说过有人做RAG做到账单失控的故事。
这篇不报数字。单价天天变,报死的数字过两天就不对了。给你的是拆账口径、升档判断线,以及一份做预算前可以照着走的核对清单。具体到钱,去站内对应页面看当时的报价,那个才是你该拿来算的东西。
先把账按三段切开,别算成一笔
最容易踩的坑,是把「AI成本」当成一个整体。实际用下来,一笔检索问答的账至少分三段:入库、检索、生成。三段的花钱方式完全不同,一段是一次性的,一段按语料量走,一段按调用次数走。混在一起算,你根本看不出哪一块在涨。
| 阶段 | 钱花在哪 | 什么时候产生 |
|---|---|---|
| 入库 | 文档清洗、切片、嵌入向量化 | 建库时一次,语料更新时要重算 |
| 检索 | 存储、索引维护、查询逻辑 | 多数是固定或低频开销 |
| 生成 | 把召回内容拼进上下文喂给模型 | 每次真正要成句回答时 |
传统检索的钱,大头在第一段和检索本身,而且大部分是一次性的:把文档收进来、建好索引、写查询逻辑,之后就是维护。RAG多出来的开销,压在最前面那段入库上,尤其是全量重建的时候。至于生成,跟检索方式无关,你只要把结果喂给模型,这笔就跑不掉,不喂就没有。
这些情况下,传统检索其实更划算
我不是说RAG不好,是很多人升档升早了。有些场景向量召回不但没帮忙,还添乱。判断标准很朴素:先看你的查询长什么样。
- 查询是编号、订单号、代码符号、错误码这类精确匹配,向量召回容易把「看起来像」的也召回来,还得再加规则过滤,成本反升
- 文档语料长期不怎么变,关键词覆盖率已经够用,那就没必要为了重建索引反复花钱
- 答案本来就要原文,模型只做拼装和排版,那么在检索这一层加钱,收益很薄
- 团队里没人能维护向量库和重排链路,那这套东西迟早会变成负债
这里有个不适用条件得说清楚:如果用户经常用口语提问、同义词多、同一件事在语料里有好几种写法,传统检索这套就撑不住了。你加同义词表、加别名映射,越加越像在手工模拟语义召回,那不如直接上向量。
出现这几种信号,才值得升到RAG
升档不该拍脑袋。我建议先做一次小样本对照,别整库上。挑同一批真实问题,一边跑你现在的关键词检索,一边跑向量召回,把结果摊开看:是压根没召回到,还是召回到了但排序不对。
- 取样本从真实查询日志里挑一批问题,覆盖长尾和口语说法,别只挑好答的
- 分开跑传统检索和向量召回各跑一遍,记录每条问题召回的前几条结果
- 分类归因把失败案例分成「没召回」和「召回错」两类,前者是语义问题,后者多半是排序和切片问题
- 再决定如果失败集中在「没召回」,升到RAG有明确收益;如果集中在「召回错」,先修切片和重排,成本低得多
还有两类信号值得注意。一类是需要跨文档拼答案,一段话分散在几份资料里,纯检索给不了,这时生成是必需的不是可省的。另一类是答案必须带出处、要能点回原文,那重排和引用链路就得做,这部分成本要提前算进去。
向量化这一步的钱,取决于你多久重建一次
只算首建是最容易低估的地方。首建是一次性的,真正贵的是语料更新之后你要不要全量重算。如果库里每天都有新文档进来,而你每次都整库重建,那这笔账会滚得很快,而且大部分算力花在了没变的文档上。
省这笔钱的思路不复杂,就三个动作:增量入库,只处理新增和变动的文档;按切片粒度做缓存,同一段文本别重复算;给每份文档记一个指纹,内容没变就跳过。这套做下来,日常维护的成本能压到很低的水平。
还有一个坑:换嵌入模型。很多团队没意识到,换模型意味着历史向量基本作废,得整库重算一遍。所以在换之前,先估一下这次重算的量有多大,值不值得。具体单价到 嵌入模型(/embeddings) 和各家的 模型成本计算器(/tools/model-cost-calculator) 里,按当时的数字核对,别拿记忆里的旧价算。
生成那头按调用次数和上下文长度算,不在检索单价上
生成成本跟检索方式没关系,它只认两件事:你调了多少次,每次塞了多少上下文。召回条数和每条的长度,直接决定每次生成要付多少上下文钱。这一点在预算里最容易被忽略,因为大家盯的是检索的单价。
召回条数不是越多越好。加条数带来的成本上升,往往比质量提升更明显。实际调的时候,先从少量召回试起,看答案质量够不够,不够再加;不要一上来就塞一大坨,那是拿钱换心理安慰。
- 按次计费
- 每次调用都算一次钱,跟自己搭不搭检索无关,只跟调用量有关
- 上下文长度
- 塞进去的召回内容和提示词都算,条数越多、单条越长,这段越贵
- 纯查找场景
- 只需要定位到原文、不需要成句回答时,可以只做到检索为止,生成那段直接省掉
口径上如果搞不清上下文和 Token 怎么算,去 Token 与上下文术语(/ai-dict/category/basics) 看一眼定义;单价去 官方 API 价格(/official-api) 看当时的报价。别把两家的价签直接相加,要先换成你自己的用量单位。
存储和中间件:自己搭还是用现成
这一段经常被漏掉。小语料的时候,用现成向量库的托管版本其实更省,因为你不用管服务器、备份和监控。语料量上去之后,自建的边际成本才慢慢降下来,但前提是团队里有人能维护这套东西。
自建要算的不只是机器钱,还有备份、监控、扩容和故障处理的人力。这几笔平时不显眼,出一次问题就全露出来了。选型的时候去 向量数据库目录(/stacks/vector-dbs) 按规模和维护成本横着比一遍,别只看功能列表。
什么情况下不适用自建:团队里没人能长期维护这套中间件,那就别自建。托管版本贵一点,但把运维风险转移出去了,对小团队往往更划算。
做预算前的核对清单
最后给一份可以直接拿去用的核对顺序。先在纸上把这几个问题答完,再打开任何报价页面。
| 要核对的项 | 为什么影响总账 |
|---|---|
| 语料总量与更新频率 | 决定向量化是算一次还是算很多次 |
| 平均每次召回几条 | 决定生成成本的大头在哪 |
| 是否必须带出处 | 决定要不要做重排和引用链路 |
| 现有查询的失败类型 | 决定升档是修切片还是修语义 |
| 自建还是托管 | 决定运维人力和机器成本归谁 |
答完之后,再去换算。拿 Token 单价换算(/tools/token-price-calculator) 把当时的单价换成你自己的用量单位,三段分别算,最后再加总。别嫌麻烦,这一步做完,你才知道多花的钱到底花在哪一段。
多花的钱大多不在检索那头,在入库的重建次数和生成的上下文长度上。下一步把手上项目的语料量和查询日志拿出来,按上面的清单过一遍,再去看当时的报价,你会发现问题往往出在一次性的重构上,而不是每天的检索调用上。→
常见问题
只用传统检索、不加模型生成,是不是就没AI费用了?
基本是。费用主要落在存储和查询上,跟模型无关。如果你只是想把资料找出来给人看,传统检索就够了,不用为了「上AI」多付一笔嵌入和生成的钱。
RAG一定要配向量数据库吗?
不一定。语料少的时候用现成的向量检索能力或者文件级缓存也能跑,等数据量和并发上来再换中间件。先看自己是不是真的需要持久化检索,别一上来就装一套。
升档后费用一定比原来高吗?
多数情况下高,但不绝对。如果原来用的是很贵的商业搜索引擎授权,换成语义检索加生成可能反而便宜。判断方法是把两边的年费和按量费分别列出来对比,不要只比单次调用。
怎么判断多花的钱值不值?
设一批真实问题做对照,比检索命中率和答案可用率。提升集中在召回上,说明该升;提升不明显,说明问题出在语料质量或切片,加钱解决不了。
嵌入模型换了要重算全部向量吗?
要。不同模型的向量空间不通用,混着用会导致召回乱掉。换之前先评估语料规模对应的一次性重算开销,再决定是分批迁移还是整体重建。