很多人搜「rag-anything 收费标准」,是以为它跟某个 API 一样有一张价目表,翻完文档发现根本没有。这事儿麻烦在它本身是个开源框架,不直接向你收钱,钱是从接进去的模型、向量库和机器上漏出去的。这篇帮你把这几摊账分清,给出先算哪一笔、什么时候该换成托管方案的判断标准,以及一套照着跑的成本核对顺序。
先把这个误会拆掉:rag-anything 没有一个「收费标准」页面,因为它是开源代码,下载和跑起来本身不收你钱。钱是从它接出去的地方漏的——嵌入模型、生成模型、向量库、还有跑这些的机器。所以你搜不到价目表不是找错了地方,是这东西压根没有一张表可翻。
真正要算的是三摊账:入库时的嵌入调用、每次问答的检索加生成、以及撑着这两件事的算力和存储。这三摊的量级差别很大,很多人一上来就纠结模型单价,结果发现大头在文档重建和机器租金上。下面按先算哪笔、怎么判断、什么情况别自建来拆。
它本身没有价目表,钱从三个口子出去
把 rag-anything 想成一个接线盒:它自己不发电,电从外面买。接哪个嵌入模型、哪个向量库、哪家生成接口,价格就跟着那几家走。所以算成本不是查 rag-anything 的价,是查你接进去的每一家的价。
| 成本口子 | 什么时候发生 | 容易漏在哪 |
|---|---|---|
| 嵌入调用 | 文档入库、重建索引时 | 以为只算一次,忘了改切块规则会全量重跑 |
| 生成调用 | 每次问答输出答案时 | 只按问题长度估,没算上塞进上下文的历史和检索片段 |
| 向量库与存储 | 长期存放、查询时 | 自建版看不到账单,机器和运维人力没计入 |
| 算力 | 跑嵌入、重排、本地模型时 | 本地跑省了调用费,但租卡或占机器的钱没摊进去 |
一次性成本和按量成本要分开记。部署、调参、清洗文档这些是一次性的,花完就过去;嵌入和生成是按量走的,问答越多越明显。把这两类混在一个数里,后面做预算就没法判断哪块在涨。
先判断你的钱主要压在检索侧还是生成侧
这是最该先做的一步,因为它决定你后面优化谁。检索侧的钱来自入库嵌入和每次问答的向量检索加重排;生成侧的钱来自把检索结果和问题一起喂给大模型所消耗的 token。两边都可能成为大头,但原因完全不同。
判断方法不难:翻一段真实问答日志,看每次检索回来几条片段、重排跑了几次、最后生成多少字。如果检索和重排的开销压过了生成,那问题不在模型选贵了,在检索参数和文档切块上。调小返回条数、收紧切块,往往比换便宜模型更直接。
- 文档量大且更新频繁时,重建索引的嵌入费用会反复发生,这块最常被低估
- 单次问答检索条数乘上重排开销,超过生成部分,说明钱压在检索侧
- 问题和答案都很短、文档也不多时,两侧都不构成主要成本,别过度优化
- 换模型前先看检索参数,很多「模型太贵」其实是检索召回太多无关片段
有个不适用的场景得说清楚:文档量很小、问答频次很低的时候,上面这套拆法意义不大,因为总量本来就小,花半天调参省下的钱还不够工时。这时候直接选省心的托管方案,把精力放回业务更划算。
自建还是用托管,看的是这几个条件
自建向量库听起来省钱,实际是把月费换成了人力和机器。备份、扩容、故障恢复都得有人盯。一家 5 人小团队如果没有专职运维,自建的隐性成本经常比托管月费还高,出一次数据损坏就更不划算。
嵌入模型也一样。本地跑确实不用按次付费,但它吃显存,租卡的钱要摊进去。租卡单价到站内算力相关页面核对当时的数字,别拿记忆里的价格算。要是本地跑的机器成本已经接近甚至超过调用费,本地跑就没意义了。
- 判断阈值
- 把自建的一次性投入按半年摊平,跟托管月费加调用费比,差距不到两成才优先托管
- 什么时候该自建
- 问答量大、数据敏感不能出内网、团队里有人能扛运维,三个条件同时满足再考虑
- 什么时候别自建
- 文档规模小、更新少、没人管机器,托管更省心也更少踩坑
这里没有绝对答案。同一个方案,在大团队是小钱,在小团队是负担。先把自己的量级和人力摆出来,再套上面的阈值,比看别人怎么选靠谱。
一套照着走的成本核对顺序
最后给一套能照着跑的顺序。核心思路是先算次数,再乘单价,最后留余量。顺序错了容易在细枝末节上抠半天,大头却没看见。
- 统计入库规模数清文档量、切块数、多久重建一次,算出一次全量入库要调多少次嵌入接口。改切块规则会触发全量重跑,这个频率要单独记。
- 从日志算问答量拿真实问答日志算平均检索条数、重排次数和生成长度,别凭感觉估。没有日志就先跑一周攒数据再算。
- 乘当时的单价把前两步的次数乘上当时的单价,单价到站内价格相关页面核对,不要用旧数字。嵌入和生成分开乘。
- 单列重建预算文档重切、换模型版本都会触发全量重建,这笔钱要单独留,不要混进日常按量里,否则每次重建都超预算。
- 定期回看单价和用量都会变,隔一段时间重跑一遍这套顺序,看钱往哪侧漂。漂向检索侧就调参数,漂向生成侧再看模型。
常见误判是把嵌入费用当成一次性支出,结果文档一更新、切块一改,全量重跑,账一下就上去了。还有一种是只算模型单价不算上下文长度,检索塞进去的片段把输入 token 撑大,实际花费远超过按问题长度估的数。这两个坑在核对顺序里都对应着具体一步,照着走能避开大半。
下一步想核对当下的模型单价、向量库和算力行情,去站内价格追踪页看当时的数字;想对比不同中转和托管方案的可信度与报价,翻导航和检测页再决定接哪家。→常见问题
rag-anything 有没有官方的收费标准页面?
它本身是开源框架,不按调用收费,所以没有官方价目表。你实际付的钱是嵌入模型、大模型和向量库这几处的费用,单价要去各家官方页面或站内价格页查当时的数字,别拿别人文章里的旧数字套。
只做一个小知识库,成本主要在哪儿?
多半在生成那一侧,不在框架本身。文档量小的时候入库嵌入是一次性的,占比不高;问答轮次多了以后,每轮检索带进去的上下文长度才是主要开销。先看日志里平均塞了多少检索片段,再决定要不要砍条数。
用本地模型跑嵌入能省钱吗?
要看量。调用频繁、文档多的话本地跑能省下调用费,但机器和显存是固定支出,量小的时候反而更贵。判断办法是把租卡或买卡的月成本跟同量级的调用费对一遍,到站内算力页面看当时的租金再决定。