rag-fusion是什么

入门与上手

给 RAG 开发者讲清 rag-fusion 的思路:多条召回怎么并行、结果怎么合并重排,以及什么场景值得用、什么场景别上。

做 RAG 的人常遇到一个尴尬:明明知识库里那句话就在,单路检索就是找不回来,换个问法又能中。rag-fusion 就是冲着这类漏召回来的——把一个问题拆成几路问法同时检索,再合并去重、重排取交集。这篇不堆公式,只讲它解决什么问题、代码里怎么落地、以及哪几种情况下加了反而更差。

做 RAG 的人大概都碰过这种尴尬:你明明知道知识库里那句原话就在,可单路检索就是捞不回来,换个问法又能中。rag-fusion 就是冲着这类「漏召回」去的——同一个用户问题,先拆成几路不同措辞或不同角度的子查询,各自检索一遍,再把多路结果合并、去重、重排。它不动你的嵌入模型,也不重建索引,属于检索策略层的改动,接在现有向量库前面就能试点。

下面不堆公式,只讲三件事:它到底在做什么、代码里按什么顺序落地、以及哪几种情况下加了反而更差。判断标准都会写清什么情况下不适用,具体数字请到你自己的评测集和站内资料库页面对照当时的版本。

rag-fusion 到底在做什么

一句话概括:同一次用户提问,先生成多个不同措辞或不同角度的子查询,各自去检索一遍,再把多路结果合并成一份候选集。注意它和「把 top-k 调大」是两码事——调大是同一路捞更多,容易捞回同一批相似噪声;fusion 是换几路捞,噪声类型不一样,互补性更强。

查询侧扩写
用一个小模型或规则,把原问题改写成几种问法,覆盖不同措辞和角度
结果侧融合
把多路候选合并,去重、分数归一化、重排,最后截断成固定条数
重排
用交叉编码或轻量模型对候选重新打分,决定谁进上下文

它补的是哪几个坑

  • 用户口语和文档书面语对不上时,单路嵌入容易偏,多问法能把语义覆盖面铺开
  • 同义词、缩写、中英混写这类词面差异,靠多路召回互补比死调单路阈值更稳
  • 长文档里答案分散在好几段时,多路能各自命中一部分,融合后再拼给模型
  • 不适用的情况:知识库本身就没有那条信息,加多少路都召回不出来,这是知识覆盖问题,不是检索问题

判断它有没有用,别凭感觉。固定一批你业务里真实的问法当作评测集,分别跑单路和多路,看命中情况有没有变化。没有这条基线,后面所有优化的好坏都说不清。评测集怎么攒、怎么看,可以到 /guides指南中心 里找评测相关的做法对照。

落地顺序:从最小改动开始

  1. 先量基线固定一批真实问法,记录单路的召回命中情况,作为后面判断增益的唯一参照
  2. 二做查询扩写只加两到三路,先不接重排模型,看召回率有没有变化,变了才继续往下走
  3. 三做融合统一分数归一化口径,不同检索通道的打分不能直接比大小,合并后先粗去重
  4. 四做重排和截断按模型窗口和成本回算最终塞进上下文的条数,别把候选全丢进去

最常见的反模式是路数越加越多、每路 top-k 都拉满。延迟和费用涨上去,收益很快平掉。建议给自己设个硬上限:路数、每路条数、最终候选数,三个数都写死,超了就砍。

代价怎么算,什么时候不值

延迟大致随路数上涨——多路检索可以并行,但融合和重排要等齐,串行实现会明显更慢。成本也不止检索:候选变多,意味着重排调用和最终喂给模型的 token 都变多,这两块往往比检索本身更贵。要按你的实际链路算一遍,别只看单次检索的耗时。

判断项倾向单路倾向多路
单路召回表现在评测集上已经够用明显漏召回,换个问法就能中
延迟预算强实时,首字延迟卡得紧可以容忍多等一轮检索
知识库形态范围窄、术语固定长文档、多来源、口语问法多
评测手段还没有评测集有固定评测集能量化对比

折中做法是只对低置信度的查询触发多路:正常查询走单路,命中分数低的才展开几路。这样成本花在真正会漏的地方,而不是每一条请求都付全价。具体阈值怎么定,取决于你的打分分布,建议先在离线评测集上试几组再上线。

这些情况先别用 rag-fusion

  • 问答范围窄、术语固定、用户问法高度一致的场景,多路基本是重复劳动
  • 强实时、低延迟要求的在线接口,多等一轮检索就可能超了首字延迟预期
  • 知识库刚建、文档量还小的时候,先把切分和元数据做好,收益比融合大得多
  • 团队还没有评测手段时,先补评测再谈优化,否则改了也说不清好没好
rag-fusion 解决的是「信息在库但捞不回来」,不是「库里根本没有」——先分清是哪一个,再决定要不要上。

如果你不确定自己属于哪种情况,一个简单的自查顺序:先确认知识库里确实有那条信息,再看评测集上单路到底漏了多少,最后才算多路带来的延迟和成本。三步都走完,答案通常自己就出来了。

下一步拿你业务的真实问法跑一遍单路基线,再决定要不要加多路;评测集怎么搭、各家检索方案的实测表现,可以在站内对照当时的实际情况再定。

常见问题

rag-fusion 和普通 RAG 的区别在哪一步?

普通 RAG 是一次检索、一次拼上下文;rag-fusion 在检索前多了「把一个问句扩成多路」的动作,检索后多了「合并去重再重排」的动作。向量库、嵌入模型、生成模型都可以不动,改的是查询构造和结果汇总这两段。

多生成几个问法会不会引入噪声,把不相关的内容也捞进来?

会,所以融合阶段必须有去重和重排兜底,最终进上下文的条数要卡住。经验上扩写路数控制在两三路、每路 top-k 适中比一上来就铺开更安全。如果你发现召回里明显混进跑题内容,先缩路数再看效果。

有没有必要自己实现,还是用现成框架?

现成的编排框架大多能拼出这个流程,自己实现也就是扩写加多路检索加去重这几步。选哪条路取决于你要不要精细控制重排和分数归一化。具体工具和目录可以到站内 /stacks/frameworks 和 /stacks/vector-dbs 对照着挑。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。