你已经跑通过一遍普通向量 RAG,现在想让答案能跨文档串起关系,比如「A 公司和 B 公司之间隔了几层供应商」。这时单纯靠相似度召回就不够用了,得上图结构。这篇不聊原理,只讲在 LlamaIndex 里把 Graph RAG 从抽取、入库到查询这条链路搭起来该怎么排顺序,以及哪些环节最容易翻车、怎么补救。
你已经跑通过一遍普通向量 RAG,现在想让答案能跨文档串起关系,比如「A 公司和 B 公司之间隔了几层供应商」。这类问题靠相似度召回就不够用了,得上图结构。这篇不聊原理,只讲在 LlamaIndex 里把 Graph RAG 从抽取、入库到查询这条链路搭起来该怎么排顺序,以及哪些环节最容易翻车、怎么补救。
先说结论性判断:Graph RAG 不是「比向量 RAG 更高级所以该换」,而是你的问题里出现了多跳、跨文档、需要沿关系推理的形态时才值得上。如果用户问的多是「这份文档里写了什么」,那向量检索加好的切分策略基本够用,硬上图只会增加抽取成本和排障难度。判断标准很简单——把你最近真实收到的提问翻出来,如果答案需要串起两篇以上文档里的实体关系才能答对,且这类问题占比不低,再动手。
第一步先把实体和关系抽稳,别急着建图
抽取是整个 Graph RAG 的原料厂。抽出来的实体粒度太细或太粗,后面查询怎么调都救不回来:粒度太细会得到一堆碎片节点,多跳查询走两步就断;粒度太粗则节点之间全是同一类关系,路径没有区分度。先拿一批带答案的样本文档跑抽取,人工看几十条结果,确认实体类型和关系谓词是你真正想问的那几类,再放量。
- 定实体与关系清单先手写一份你关心的实体类型和关系谓词表,比如「公司—供应—公司」「人—任职—公司」。抽取 Prompt 里明确列出这张表,比让模型自由发挥稳定得多。验证方式:抽完之后统计有多少节点落在清单外的类型上,比例高说明 Prompt 约束不够。
- 小样本人工验收挑一批你熟悉内容的文档跑抽取,人工核对实体边界是否合理、关系方向有没有反。这一步花的是人力,但比后面重构索引便宜得多。
- 抽取结果落盘缓存每篇文档只抽一次并把结果存下来,重跑只走增量。否则每次调 Prompt 都要把全部语料再过一遍模型,账单会非常直观。验证方式:改一次 Prompt 重跑,看是不是只有你没缓存的那几篇在调模型。
抽取 Prompt 要和你的文档风格对齐。合同、工单、技术文档的实体边界完全不同,别用一份通用 Prompt 硬套所有来源。如果语料来源超过两类,就按来源分几套 Prompt,分别抽样验收,别指望一套打通。
图存到哪、和向量库怎么分工
常见做法是图库管关系、向量库管语义召回,两者用同一套节点 ID 对齐。只上图不上向量,会导致问「意思相近但没提过关键词」的问题时召不回起点——用户不会按你的实体命名习惯提问,这一步缺失会直接让命中率掉下来。反过来只上向量不上图,就退化成普通 RAG,跨文档关系还是串不起来。
| 环节 | 图库负责 | 向量库负责 |
|---|---|---|
| 入口定位 | 按已知实体精确找节点 | 按语义相似找候选节点 |
| 关系扩展 | 沿边多跳、按属性过滤 | 不参与 |
| 结果拼装 | 给出路径和中间节点 | 给出原文片段 |
| 对齐键 | 同一套节点 ID | 同一套节点 ID |
选型看你的运维能力:单机图库够小团队用,但要提前确认它能不能事务写入、能不能按节点属性过滤,不然几千篇文档之后会很难受。想比一比可选方案,去 向量数据库目录(/stacks/vector-dbs) 和 技术栈图谱(/stacks) 对着看,别只按宣传页的功能列表选。
- 入库要幂等:同一篇文档重跑抽取时,先按文档 ID 删旧节点再写新的,否则图里会堆积重复实体,查询结果越跑越乱。
- 节点 ID 生成规则要稳定且可复现,别用随机 UUID 又不在向量库侧同步映射,两库对不上就只能重跑。
- 图库写入要有失败重试和断点续传,几千篇文档写一半挂掉是常态,从头再来代价很大。
- 给节点和边加上来源文档字段,后面排查「这条关系哪来的」时能直接定位,不用翻抽取日志。
索引组合与查询编排:怎么走多跳还不失控
LlamaIndex 侧通常是一个图索引加一个向量索引的组合,查询时先向量找入口节点,再沿关系扩几跳。跳数一定设上限,跳数开太大等于把整张图拉进上下文,既慢又容易被无关关系带偏。上限怎么定,看你的问题平均需要几跳才能答对,从那个数往上加一档做缓冲就够。
- 拆成两步调用把「找起点」和「沿图走」拆成两个可控步骤,中间打印命中的节点和边。不做这一步,线上出问题只能靠猜,根本分不清是入口错了还是路径错了。
- 每段设超时和重试上限向量检索、图查询、生成三段各自设超时,别用一个全局超时兜住。具体分档参考 接口测速(/tools/speed-test) 量出来的基线,别照抄别人的数值。
- 先跑固定对照问题改跳数或改入口策略之前,先存一组对照问题。每次改动跑一遍,看命中路径是变好还是变差,没有对照就只能靠感觉调参。
# 排查顺序建议:先看入口命中,再看路径扩展,最后看生成耗时
# 日志里按这三个阶段打点,出问题按顺序往下查,不要跳步还有一种容易忽略的情况:入口节点找错了,但路径扩展本身没问题,答案看起来却像是「图不准」。排查时先把向量召回的入口节点打出来人工看一眼,如果入口就不对,问题在向量侧和节点命名,不在图查询逻辑上。
上线后的日志、降级与评测动作
日志至少记:命中的入口节点、扩展的路径、用掉的跳数、模型调用次数与耗时。这样一次「答得慢」能立刻拆成是检索慢还是生成慢,而不是对着一条总耗时发呆。建议把这几个字段做成固定结构,别塞在一行自由文本里,不然想聚合都没法聚合。
| 异常现象 | 先看什么 | 常见原因 |
|---|---|---|
| 答非所问 | 入口节点命中记录 | 入口召回偏了,节点命名和用户提问习惯不匹配 |
| 答案残缺 | 扩展路径与跳数 | 跳数上限太低,或者中间边没抽出来 |
| 响应变慢 | 各阶段耗时打点 | 图查询或生成某一段超时,不是整体问题 |
| 重复关系 | 节点 ID 与去重逻辑 | 入库不幂等,同篇文档写了多遍 |
图库或抽取服务挂掉时要能降级回纯向量检索,宁可答案浅一点也别整个问答不可用。降级开关要能被配置控制,而不是改代码发版——凌晨两点没人愿意为了一个开关跑一次发布流程。降级触发条件写清楚:连续失败几次、超时几次,避免偶发抖动就把整个链路切掉。
- 准备一组固定的对照问题,每次改抽取 Prompt、跳数或入口策略都跑一遍,看命中路径有没有变差。
- 评测集的口径做法可参考 测评榜单库(/benchmarks/registry) 的说明,重点是固定题目和固定判定标准,不是追求分数好看。
- 把降级路径也纳入评测:手动关掉图查询,确认纯向量模式仍能给出可用答案。
- 定期抽样人工看几条真实日志的路径,自动化指标看不出的「路径合理但答案怪」只有人眼能发现。
- 改动前后留版本记录,哪天效果变差能回滚到上一版 Prompt 和跳数配置。
常见问题
Graph RAG 比普通向量 RAG 多花多少成本?
主要多在两块:抽取阶段要把全部语料过一遍模型,以及查询阶段多几跳的检索与拼接。具体单价和用量口径去 模型成本计算器(/tools/model-cost-calculator) 按你自己的语料规模和问题量算,不同文档密度差别很大。省钱的关键是抽取只跑一次并缓存、跳数设上限。
小团队文档只有几百篇,值得上图吗?
如果问题本身就是「谁和谁有关系」「跨了几层」这类,几百篇也值得,因为向量召回天然答不好关系型问题。反过来,如果问题基本都是单文档内的细节查找,先别上,向量 RAG 加个好点的分块策略往往就够了。判断标准是:你的问题里有没有出现需要跨两篇以上文档才能拼出来的答案。
抽取出来的实体质量怎么评估?
最省事的办法是人工抽样看:随机抽几十条抽取结果,按「实体是否准确、关系是否成立、粒度是否合适」三个维度打勾,记录错误类型。跑完一轮后针对最高频的错误类型改 Prompt,再抽一批对比。做两三轮通常就能收敛,比一上来就写自动评分脚本快得多。