rag模型的全称收费标准,多花的钱落在检索这一段

接入与开发

把 RAG 的收费拆成检索、向量化、生成三段,讲清各段各自计费口径,给出核对与预算判断做法。

很多人搜「rag模型的全称收费标准」,心里其实在问另一件事:这套东西到底按什么收钱。结果拿到账单发现,聊天那部分才几百,向量化和重排反而花得多。这篇不重复 RAG 是什么,只把收费口径一段一段拆开,告诉你哪几格容易漏算、什么情况下这套拆法不适用。

先认清:RAG 不是一个模型,是三段各自收费

RAG 的全称是检索增强生成(Retrieval-Augmented Generation),这串字只说明它怎么干活,不说明它怎么收钱。真到对账的时候你会发现,账单上根本没有一个叫「RAG」的条目,只有向量化、检索、生成三笔各算各的。把这三段混成一句「一次问答多少钱」,后面就很难判断到底贵在哪。

麻烦的地方在于三段用的计量单位不一样。向量化按文本量算,你灌进去多少字、切了多少块,它都记着;生成按 token 算,进和出往往还不同价;检索那头按向量库的规格或者查询次数算,跟你问的问题长短基本无关。三种单位没法直接相加,所以谁跟你说「一口价」,多半是把某一段藏起来了。

环节按什么计量容易漏掉的点
向量化文本量(字数、块数)重建索引、改切分参数会重复计费
检索向量库规格或查询次数每次问答可能触发多次查询
生成输入与输出的 token上下文塞太长,输入侧先涨
  1. 先画一张付费归属图把项目里的向量化、检索、生成分别写在三行,每行标清楚是自建、官方 API 还是走中转。哪一段由谁付钱,一眼能看出来。
  2. 再标每段的计量口径对着实际调用记录确认:向量化是按字还是按块,检索是按次还是按库规格,生成按不按输入输出分开。口径没对上,比价就是白比。
  3. 最后才谈贵不贵三段各自的单价到站内价格页核对当时的数字,再看哪一段占大头。只盯生成价的人,最容易把总账算低。

只盯生成价是个很常见的误判。有人把上下文一股脑塞进去,觉得模型单价不高就没事,结果输入 token 一路涨,检索也因为他把库切得太碎而多跑了几次。这跟模型选得好不好没关系,是前面两段的账没算进来。反过来,如果你的场景是海量文档只查一次,向量化那一段反而可能压过生成。

这套拆法也有不适用的时候。比如你用的是打包好的托管服务,供应商只给一个总价、不拆明细,那就没法按段归因,只能拿同规模的自建方案做个粗对照。还有一种是检索走本地内存、不产生查询费用,那检索这一行就可以先划掉,重点看另外两段。先认清三段各收各的,再往下谈优化,顺序别反。

向量化那一段,钱是按「喂进去多少字」走的

先把一段话想成要过一道闸机:闸机不看你这段话重要不重要,只数你塞进去多少字。向量化就是这个闸机。建库时整批文档过一次,之后用户每问一句,问题本身还要再过一次。两次都按字数计费,但口径其实不一样。

建库那次是「批量口径」,一份文档切多少片、每片多长,直接决定总字数放大多少倍。切得碎,片数就多,很多切片还要带上一段重叠的上下文,同一句话被算两遍、三遍都有可能。查询那次是「请求口径」,每次都只向量化一小段问题文本,单次看着便宜,但调用次数跟着用户量和并发走。两笔账得分开估,混在一起算很容易低估。

建库向量化
文档入库时整批切片的嵌入计算,一次性投入,按切片总字数计费
查询向量化
每次检索前把用户问题转成向量,按请求次数和问题长度计费
切片重叠
相邻切片共享的一段文本,会被重复向量化,等于多花钱买召回
全量重建
换嵌入模型或改切片策略后,旧向量作废,整库重新过一遍闸机
动作计费口径什么情况下会突然变贵
建库向量化切片总字数,含重叠部分切片调碎、重叠比例调高、文档量增长
查询向量化问题文本长度 × 请求次数用户量上涨、前端反复重试、一次问句塞进长上下文
换模型重建整库重新算一遍中途换嵌入模型、改切片参数

所以切片策略不是纯技术口味问题,它是直接开账单的旋钮。片切大一点,条数少,向量化便宜,但检索时容易把不相干的内容一起召回;片切小一点,召回更准,可条数和重叠一起涨。建议先按业务能接受的最小召回粒度定切片,再回头压重叠比例,别一上来就追求「切得细准」。如果文档本身结构清晰,按段落、按标题切往往比按固定字数切更省。

  1. 先算建库这一笔拿一批代表性文档试切,统计切片条数和总字数,再乘上嵌入模型的单价,得出整库向量化的量级。别用全量文档直接试,先用小样本估。
  2. 再算查询这一笔按日活提问数和平均问题长度估出每日请求量,注意把前端重试、批量补问这些隐性调用一起算进去。
  3. 把重建成本写进预算换嵌入模型等于旧向量作废,要预留一次全量重跑的时间和费用;切片参数一旦定下,改动前先评估重跑代价。
  4. 上线后回来对账到 价格页(/pricing) 核对嵌入模型的当前单价,再和实际账单比,看偏差出在切片条数还是查询次数上。

检索与重排:真正容易被忽略的两笔

先说个容易踩的坑:向量库这块,自建和托管根本是两套账。自建看的是机器规格——几核几G、磁盘多大、要不要上 GPU 做索引,钱花在服务器和运维人力上。托管看的是存储量加查询次数,按量走。两种口径没法横向比单价,你拿托管那边一次查询的钱去套自建,算出来的数没有意义。

方式钱主要花在哪横向比单价时注意
自建机器规格、磁盘、带宽、运维工时别只算机器钱,运维是人天
托管存储量、查询次数、索引规模查询量波动大时按高峰估,不按均值
混合两路召回都要算进存储和查询条数乘二,别按单路做预算

重排是另一笔独立的开销。加了重排,就多一次模型调用,候选条数越多越贵,而且是线性往上走的。关键是先确认它到底有没有把准确率拉上去——拿一批真实问题跑对照,看加了重排之后答案是不是真的更准,还是只多花了钱。数字别凭感觉,到 站内价格页(/pricing) 按当时的单价自己折算。

  1. 先量召回把单路召回的候选条数记下来,关键词一路、向量一路分别记,别加总。
  2. 再算重排量候选条数乘上重排调用的次数,就是你多出来的那笔钱,写进预算表里。
  3. 做对照同一批问题,加不加重排各跑一遍,看准确率有没有实质变化;没变化就先别加。
  4. 按高峰估托管查询量和重排调用都按业务高峰估,用均值算出来的预算通常兜不住。

混合检索最容易在预算上翻车。关键词和向量两路同时跑,召回条数直接乘二,存储、查询、重排全都跟着涨。做预算时按双路来,别拿单路的量去套。真跑下来发现混合带来的提升不值那份钱,就砍回单路,这事儿得拿数据说话,不是配置越全越好。

生成这一段,还有拼上下文带来的隐形成本

很多人算 RAG 成本只盯着「embedding 多少钱、向量库多少钱」,把检索这一段的钱算得挺细,结果账单出来发现大头不在这儿。真正把费用顶上去的,往往是最后一环:把召回片段拼成提示词,再喂给生成模型。这一步的输入长度,你平时不觉得,一算吓一跳。

举个例子。你问一句话,可能就十几个字。但系统在背后塞进去五段资料、每段几百字,再加上系统提示词、历史对话、格式说明,输入一下就变成几千 token。输出可能就几百字。也就是说,你付的钱里,很大一块是「模型读你给的材料」,不是「模型写答案」。这事儿麻烦在,它不报错、不提示,账单上也不会单独列一行叫「检索拼接费」。

还有一层更隐蔽的:长上下文模型通常按输入长度分档计价,超过某个长度,单价就跳到下一档。你以为只是「多塞了两段」,实际可能整次请求都按更贵的那一档算。所以别只盯着每百万 token 那个数,要看你单次请求的输入落在哪一档。具体档位和当时的单价,去 /official-api 核对,那里的价目是按各家官方口径整理的。

钱花在哪为什么会涨怎么自查
召回片段拼进提示词片段越多、越长,输入 token 线性变长统计每次请求实际输入 token,跟问题本身长度对比
长上下文分档输入超过阈值,整单按更贵档位计价对照官方价目的档位表,看自己的请求落在哪档
多轮追问重复带上下文同一段资料被反复塞进每一轮看是否开了缓存,命中与不命中差别很大
格式与指令冗余系统提示、分隔符、示例占了不少位置精简模板,别把整份说明每次都带上
  1. 先量出真实输入量从日志里抓十到二十次典型请求,记下每次的输入 token 和输出 token。别用平均值糊弄自己,长尾那几次往往最烧钱。
  2. 对照档位看单价拿这个输入量去 /official-api 的价目里找对应档位,确认自己是不是已经跨档。跨档的话,省片段比换模型更有效。
  3. 填进计算器算一遍到 /tools/model-cost-calculator 填你自己的请求量、平均输入长度、输出长度,按当时的单价跑一遍。数字会告诉你检索拼接到底占了多少。
  4. 检查缓存有没有生效同一段资料在多轮里重复出现时,看缓存命中情况。命中和不命中,账单差得很明显,别默认它一定在工作。

最后提醒一句:这套算法在「多轮、长资料、固定知识库」的场景下最适用。如果你是一次性问答、片段很短、或者输出远长于输入,那生成侧的成本结构就不一样了,别硬套。判断标准就一条:先量输入,再谈省钱。

这套拆法什么时候不适用

先说清楚:前面那套「把账单拆成向量化、存储、检索、生成四段」的算法,是给按 token 计费的 API 用量算的。一旦换了个收费模式,继续硬拆就变成自娱自乐了。下面三种情况,别拿这张拆法往上套。

一体化知识库产品
按座位或按月订阅收费,不按 token 走,拆单价没意义
免费额度验证阶段
只看额度边界在哪、超了怎么算,不看单 token 单价
小文档量低频更新
向量化是一次性沉没成本,重点看重建频率而非检索单价

第一种最常见,也最容易把人带沟里。买的是打包好的知识库产品,账单上写的是「几个座位、包月」,你非要按 token 折算成「每次检索多少钱」,算出来的数字跟自己编的差不多。这类产品贵的部分往往在权限、同步、界面这些工程活上,跟检索本身没多大关系。真要比较,比的是座位数够不够用、导入导出顺不顺手、额度超了是限流还是加钱,而不是把月费除个天文数字。到 站内价格页(/pricing) 看当时各家标的是订阅还是用量,先分清收费模式再谈拆不拆。

第二种,验证阶段。手里就那么点免费额度,此时纠结单价毫无意义——你压根没花到钱。该盯的是额度边界:免费额度覆盖多大的文档量、多少次检索、超了之后是直接停还是转成计费、转计费是按请求还是按 token。这几条问清楚,比算单价省事得多。别在验证期拿免费额度倒推「这模型好便宜」,等真上量了账单口径完全不是一回事。

  • 免费额度是否限制文档数量或单文档大小
  • 超额后是限流、降级还是自动转付费
  • 超额计费按请求次数还是按 token 用量
  • 免费额度有没有有效期、重置周期怎么算
场景别硬拆的原因该看什么
一体化知识库产品按座位/月费收,无 token 口径座位数、额度超限规则、导入导出是否顺手
免费额度验证期还没真花钱,单价是纸面数字额度边界、超额后的计费方式、有效期
文档极少且几乎不改向量化是一次性成本,占比被放大重建频率、增量更新支不支持、改一次要重跑多少

第三种,文档量很小、几个月才动一次的场景。这时候向量化的成本基本是一次性投入,之后每次查询摊到的检索费用低得可以忽略。你盯着「检索单价」挑便宜模型,省下的可能还不够一次全量重建折腾的功夫。真正该问的是:改一篇文档要不要全量重跑?支不支持增量?重建一次大概多久、要不要停机?这些问题答不上来,「单价便宜」就是幻觉。具体参数到 工具目录(/tools) 对照着看当时的标注。

常见问题

RAG 到底按什么收费,有没有一个统一价?

没有统一价。RAG 是三段拼起来的东西:向量化按文本量计费,检索按向量库规格或查询量计费,生成按 token 计费。你搜到的任何单一价格,都只是其中一段。要估总账,得先把三段各自的用量列出来再分别乘单价。

为什么我按生成模型的价格算完,实际账单高出不少?

多半是漏了向量化和重排。建库时整批文档向量化会产生一笔不小的调用量,查询时问题和候选片段又各算一次。再加上召回片段拼进提示词让输入 token 变长,三处叠加就超了预估。先去站内成本计算器按真实用量跑一遍。

嵌入模型换了以后,之前的钱是不是白花了?

旧向量确实要全量重建,因为不同模型的向量空间不通用。所以换嵌入模型前先问一句:现有效率问题是切片造成的还是模型造成的。切片没调好就换模型,重建完大概率还要再调一次切片。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。