做 RAG 的开发者多半踩过这种坑:所有问题都走同一套检索流程,简单问题被复杂检索拖慢,复杂问题又因为只查一次而答不全。adaptive rag(自适应检索增强)就是针对这种「一刀切」的改进思路。这篇不铺概念,先讲它到底在检索链路的哪一段做判断,再说清楚哪些项目值得上、哪些项目上了反而添乱,最后给一份开工前的对照清单。
做 RAG 的开发者基本都遇到过同一个问题:不管用户问的是「你们的退货政策是几天」这种一句话就能答的,还是「把三个季度的故障工单按模块做个对比」这种要翻好几份文档的,系统都走同一条流水线——向量化、召回固定条数、塞进上下文、丢给模型。结果就是简单问题被复杂检索拖慢,复杂问题又因为只查一次答不全。adaptive rag 就是针对这个「一刀切」的改法。
这篇先讲它在检索链路哪一段做判断,再说清哪些项目值得上、哪些上了反而添乱,最后给一份接入前的对照清单。想要先摸清各家检索方案和工具的基础情况,可以去 工具目录(/tools) 对照看看。
一句话讲清 adaptive rag 在改什么
普通 RAG 是一条固定流水线:问题进来就向量化,固定召回几条,直接拼进提示词。adaptive rag 的做法是在这条线上插入判断动作,先问一句「这个问题该怎么处理」,再决定要不要检索、走哪条通道、查一轮够不够。它改的是编排层,不是模型本身。
- 要不要检索
- 打招呼、闲聊、写代码模板这类不需要知识库的问题,直接走模型,不浪费一次召回
- 走哪条通道
- 含型号、编号、专有名词的走关键词或混合检索,纯语义描述走向量检索
- 要不要补查
- 第一轮召回后评估证据是否充分,不够就改写查询再查一次或换角度
值得注意的是它的实现门槛不高。LangChain、LlamaIndex、Dify 这类编排工具都能把上面三层拼出来,也有现成的路由器组件可以参考。换句话说,它不是非换一套框架不可的东西,重点在判断逻辑写得好不好,而不在你用哪个库。
它靠什么做判断:几种常见做法
| 判断方式 | 怎么工作 | 优点 | 代价 |
|---|---|---|---|
| 规则路由 | 按问题长度、是否含编号、是否要算数等特征分流 | 最好调试、行为可预期、零额外调用 | 覆盖不了长尾,规则会越加越多 |
| 模型判断 | 先让一个小模型给问题分类或打分,决定检索深度 | 灵活,能处理没见过的问法 | 多一次调用,多一份延迟和成本 |
| 自我校验 | 召回后让模型评估够不够,不够就改写再查 | 答案质量优先的场景提升明显 | 链路变长,延迟不稳定 |
| 混合 | 规则兜底高频问题,模型判断兜长尾 | 性价比最高,也最容易逐步演进 | 需要有人在中间维护两层逻辑 |
从实践看,混合是最实用的起手式。高频、形态固定的问题交给规则,判断快且错了好排查;低频、问法花哨的问题交给模型判断,允许它多花一点时间。两个层级的边界按你真实工单的分布来划,别拍脑袋。
什么情况下值得上,什么情况下别碰
不是所有 RAG 项目都该上自适应。它带来的复杂度是实打实的:判断逻辑要维护、评测要多做几组、出问题时排查链路更长。所以先判断你的项目是不是真的被「一刀切」卡住了。
- 值得上:知识库来源杂,PDF、表格、历史工单混在一起,单一检索通道很难都召回好
- 值得上:问题难度差异大,简单问答和需要多跳推理的查询同时存在
- 值得上:用户对延迟敏感但也不能接受瞎答,需要在速度和质量之间按题分配
- 先别碰:知识库只有几十篇文档,问题类型还集中在同一类,先调基础检索收益更大
- 先别碰:团队还没有稳定的召回评测手段,改了也没法判断好坏,等于盲改
- 不适用:强合规场景要求链路可解释且每次行为一致,自适应带来的随机性会放大排查成本
如果你的场景偏向前两类「先别碰」,那更值得先把基础检索调扎实,再回来考虑加判断。基础方案怎么选,可以到 指南中心(/guides) 找对应的入门篇。
接入前的对照清单与排查顺序
- 先建评测集从真实工单里抽几十条,覆盖简单问答、多跳推理、带编号查询、模糊描述四类问题。没有基线,后面所有改动都无从归因,这一步不能省。
- 再定指标命中率、答案准确率、首字延迟分开量,别合成一个综合分。自适应最大的卖点就是按题分配资源,指标不拆开根本看不出它有没有起作用。
- 从规则路由起步先只做「要不要检索」和「走哪条通道」两层判断,跑通并稳定后再引入模型判断。每次只改一个判断环节,出问题才能定位到具体哪一层。
- 保留降级路径判断超时或置信度低时,直接退回固定检索流程。验收时专门跑一遍断网、超时、模型返回异常这些情况,确认链路不会整个卡住。
最后说一句延迟。自适应一般会让链路变长,所以上线前要按「简单题」和「复杂题」分别测延迟,而不是只看平均值。真实的调用耗时可以到 测速工具(/tools/speed-test) 看你自己的环境,别拿别人的数字套。
自适应不是让检索更聪明,而是让检索花在刀刃上;判断逻辑能不能兜底,比判断得准不准更先要问。下一步想对比不同编排方案和各家中转/API 的实际表现,可以到站点导航页按检索、编排、评测几个标签筛一遍,再决定自己从哪套拼起。→
常见问题
adaptive rag 和 agentic rag 是一回事吗?
不是。agentic rag 强调让模型自主规划多步、自己决定调用哪个工具,范围更大;adaptive rag 只聚焦检索环节的策略选择,通常更轻、更可控,也更适合先落地。
小团队有没有必要做自适应检索?
先看问题分布。如果绝大多数提问都能用同一条检索路答好,做自适应只是增加复杂度和延迟。等出现明显两类以上问题、固定流程顾此失彼时再上更划算。
判断错了怎么办?
留降级路径是最省事的做法:分类置信度低或超时就直接走默认检索。同时把判断错误的样本记下来,定期回填到评测集,让路由规则跟着真实问题演进。