RAG 企业私有知识库一键搭建

概述

从零搭建生产级 RAG（检索增强生成）私有知识库。解决大模型三大痛点：幻觉、知识过时、私有数据无法接入。

一句话理解 RAG：给大模型配一个专属图书馆——先查资料，再回答问题。

适用场景：企业内部文档问答、客服知识库、合同审查、设备运维、新人培训答疑

前置环境

读取 references/environment.md 获取完整环境配置。

最小硬件要求

• CPU: 4核+
• 内存: 16GB+（运行大模型需要 GPU 或有足够内存）
• Docker & Docker Compose
• Python 3.10+

操作流程

Step 1: 一键启动环境

cd scripts
docker-compose up -d

启动服务：Milvus（向量库）、Ollama（本地大模型）、MinIO（对象存储）

# 验证服务
docker-compose ps

# 拉取模型（推荐 qwen2.5:7b）
ollama pull qwen2.5:7b

Step 2: 文档解析

读取 references/document-parsing.md 获取多格式解析详解。

支持格式：

Step 3: 分块策略

读取 references/chunking-strategy.md 获取分块策略详解。这是决定检索准确率的关键环节。

from langchain.text_splitter import RecursiveCharacterTextSplitter

# 推荐配置（中文场景）
text_splitter = RecursiveCharacterTextSplitter(
    chunk_size=512,        # 每块512字符
    chunk_overlap=64,      # 重叠64字符，保持语义连贯
    separators=["\n\n", "\n", "。", "，", " ", ""],
    length_function=len,
)

chunks = text_splitter.split_documents(documents)

分块策略速查：

Step 4: 向量化存储

from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.vectorstores import Milvus

# 使用 BGE 中文 Embedding 模型（C-MTEB榜首）
embeddings = HuggingFaceEmbeddings(
    model_name="BAAI/bge-large-zh-v1.5",
    model_kwargs={'device': 'cpu'},
    encode_kwargs={'normalize_embeddings': True}
)

# 存入 Milvus
vector_store = Milvus.from_documents(
    documents=chunks,
    embedding=embeddings,
    collection_name="my_knowledge_base",
    connection_args={"host": "localhost", "port": "19530"},
)

Step 5: 检索增强生成

读取 references/retrieval-strategies.md 获取检索策略详解。

推荐：混合检索（BM25 + 向量 + Rerank）

from langchain.retrievers import EnsembleRetriever
from langchain_community.retrievers import BM25Retriever

# BM25 关键词检索
bm25_retriever = BM25Retriever.from_documents(chunks, k=5)

# 向量语义检索
vector_retriever = vector_store.as_retriever(search_kwargs={"k": 5})

# 混合检索
ensemble_retriever = EnsembleRetriever(
    retrievers=[bm25_retriever, vector_retriever],
    weights=[0.3, 0.7]  # 向量权重更高
)

# Rerank 重排（提升准确率）
from langchain.retrievers import ContextualCompressionRetriever
from langchain_community.document_compressors import BgeRerank

compressor = BgeRerank(model="BAAI/bge-reranker-large", top_n=3)
compression_retriever = ContextualCompressionRetriever(
    base_compressor=compressor,
    base_retriever=ensemble_retriever
)

Step 6: 问答链

from langchain.chains import RetrievalQA
from langchain_community.llms import Ollama

llm = Ollama(model="qwen2.5:7b", temperature=0.1)

qa_chain = RetrievalQA.from_chain_type(
    llm=llm,
    chain_type="stuff",
    retriever=compression_retriever,
    return_source_documents=True,
    verbose=True
)

# 提问
result = qa_chain({"query": "公司的年假政策是什么？"})
print(result['result'])
print("参考来源:", [doc.metadata for doc in result['source_documents']])

Step 7（进阶）: GraphRAG 知识图谱增强

读取 references/graphrag-guide.md 了解 GraphRAG 原理和实现。

GraphRAG 在传统 RAG 基础上增加知识图谱层，实现多跳推理和实体关系查询，是2026年企业级RAG的新标配。

检索效果对比

常见场景速查

资源索引

注意事项

• 中文场景首选 BGE 系列 Embedding 模型（bge-large-zh-v1.5）
• 首次运行需下载模型，耗时取决于网络，建议提前 ollama pull
• Vector Store 索引构建时间随文档量线性增长
• GraphRAG 适合 >500 页的复杂知识库，小型知识库使用混合检索即可
• 生产环境建议 Milvus 集群模式 + GPU Embedding
  （内容由AI生成，仅供参考）