self-rag 和普通 rag 有什么区别

接入与开发

从工程落地角度讲清 Self-RAG 和普通 RAG 的机制差别:多出来的判断与自省步骤,换来多少调用量、延迟和调试成本的增加。

普通 RAG 你已经跑通了:切片、入库、召回、拼上下文、出答案。可一遇到「资料里根本没答案」的问题,模型照样一本正经地编。Self-RAG 的思路是让模型自己决定要不要检索、检索回来的内容值不值得用、答案有没有被证据支撑。这篇不重复检索原理,只讲这套机制落到你项目里,链路会多出哪些环节、成本会怎么变、什么情况下不值得上。

普通 RAG 你已经能跑出东西:切好片、灌进向量库、按相似度捞回几条、塞进上下文让模型写答案。问题出在它太「听话」——不管捞回来的东西对不对、够不够,也不管问题到底该不该查库,它都照走一遍,然后照样一本正经地编。Self-RAG 想解决的就是这件事:把「要不要查」「查到的能不能用」「答的有没有依据」这几步判断交回给模型自己决定。

这篇不重讲检索原理,只从工程落地角度看:这套「边走边判断」的机制加进来之后,你的链路会多出哪些环节、延迟和调用量怎么变、调试方式为什么得跟着改,以及什么情况下根本没必要上。下面按机制差异、工程形态、适用判断、落地清单四块说。

机制差异:从「固定四步」到「边想边判断」

普通 RAG 是直线:query 进来就召回,召回就拼上下文,拼完就生成,每一步都必然执行。检索这个动作不由模型决定,是流程写死的。它不会因为「这个问题我本来就知道」而跳过查库,也不会因为「捞回来的东西驴唇不对马嘴」而主动退回。这种确定性是优点也是死穴——稳,但不会自我纠错。

Self-RAG 在这条直线上插了几个判断点。模型除了生成答案,还会输出类似「这段需不需要检索」「捞回的这段证据相不相关」「最终答案有没有被证据支撑」的标记,流程读这些标记再决定下一步怎么走。最关键的变化是:检索从必然动作变成了条件动作。模型判断这题靠自身知识能答,就直接跳过向量查询,省下一次检索甚至一次额外生成。

条件检索
先判断问题需不需要外部资料,不需要就不查库;对混杂类型的问题收益最明显。
证据自评
对捞回的片段打分,判断相关性,不相关的片段不往上下文里塞。
答案自省
生成后再确认答案有没有被证据支撑,没支撑就走「资料不足」分支而不是硬编。

不适用的情况也得说清楚:如果你的问题几乎每条都必须查内部资料,比如客服政策、合同条款这种,检索是刚性需求,自适应跳过的空间很小,多出来的判断步数就纯粹是开销了。这时候与其折腾 Self-RAG,不如把召回做扎实。

工程形态:多出来的不只是几次调用

链路结构变了,成本结构自然跟着变。普通 RAG 一次请求基本是一次生成,Self-RAG 可能是一串生成加若干次检索,而且是串行的,后一步要等前一步的标记。端到端延迟通常会是普通 RAG 的数倍,首字时间敏感的场景得先想清楚能不能接受。

对比项普通 RAGSelf-RAG
执行路径固定直线,一步接一步多分支,按判断标记跳转
检索时机每次都查按需查,可能跳过
模型调用基本一次生成多次生成 + 判断输出
主要成本召回质量延迟、token、链路维护
调试对象最终答案每一步的判断记录

token 消耗会明显上升,因为每次判断都要走一次模型输出。具体贵多少取决于你选哪家模型和当时的单价,别拍脑袋,去站内官方 API 价格页核对当时的数字,再用模型成本计算器按你自己的调用量估一遍,心里有个区间再决定做不做。

还有一个容易被忽略的新故障点:解析判断标记本身。模型偶尔会漏输出标记,或者标记格式抖动,流程读不到就会掉进兜底分支。所以每个分支都要写明确的默认行为,不能假设标记一定存在、一定有值。

  1. 记录每一步判断把「要不要检索」「证据评分」这些中间结果写进日志,否则出问题分不清是判断错了还是召回错了。
  2. 给分支定默认行为标记缺失、格式异常时走哪条路,提前写死,不要让流程悬空。
  3. 对齐监控口径关键字段统一落库,参考站内质量监控工具的口径,方便后续做前后对比。

什么情况下值得上,什么情况下别折腾

判断要不要上,先看你的问题构成。如果问题类型很杂,一部分靠常识就能答、一部分必须查内部资料,而且知识库里确实存在「查了也没答案」的条目,那让模型学会「不硬答」往往比一味提高召回率更有用,这时候值得试。

  • 值得上:问题类型混杂、知识库有大量答不上的条目、业务能容忍答案里出现「资料不足」这种回复。
  • 别折腾:领域单一、检索必答、延迟预算紧、团队没精力维护多条分支链路。
  • 替代做法:不引入完整自省,先加两个便宜环节——召回后判断证据够不够,不够就返回资料不足;生成阶段强制引用片段编号,无引用判为可疑。
  • 前提条件:手上得有一组固定问题集,能拿来做前后对比,否则改了也说不清是机制好还是运气好。

混合检索和向量检索之间的取舍会直接影响召回那一段的效果,如果这一步还没调顺,先别急着加自省层,去站内 BM25 与向量检索对比那篇指南把基础夯实,再回来做判断层。

落地前的对照清单与排查顺序

真打算动手,建议按下面的顺序推进,一次只加一个判断点,每加一个就跑一次对比。一上来三个判断全加上,出了问题你根本不知道是哪一步引入的。加完看数字的时候记得对照真实用量页面,看同类项目大致处在什么量级,别只盯单次单价。

阶段加什么验证什么
基线什么都不加固定问题集上普通 RAG 的准确率、延迟、token
第一步是否需要检索跳过检索后哪些问题变差
第二步证据是否相关不相关片段被拦下后答案质量
第三步答案是否有支撑无支撑答案是否被正确标出
上线前兜底与日志标记缺失时流程是否稳定

排查也有顺序:答案错但证据是对的,看生成和拼装那一段;证据本身就错,回退到召回和切片;两者都对但流程走歪了,去看判断标记的解析和兜底分支。按这个顺序能省很多来回。

Self-RAG 不是让检索变准,是让模型学会该查的时候查、不该答的时候闭嘴。
下一步想先看别的团队实际跑出来的延迟和成本量级,再去决定要不要上自省层,可以到站内中转站测速对比页看一眼当天的真实数据,心里有个参照再动手。

常见问题

上了 Self-RAG 之后延迟变长正常吗?

正常。判断步骤是串行的,调用次数增加,端到端时间必然上升。判断是否可接受要看你的场景:问答类能忍几秒,实时补全可能就不行。可以先把判断限制在必要时触发来压延迟。

知识库里全是内部资料,还值得折腾这套吗?

收益有限。检索是刚性需求时,自适应跳过的价值很小,多出来的判断更像纯成本。这种情况优先把切片、召回和重排做扎实,再考虑是否加一个「证据够不够」的轻量判断。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。