local RAG MCP

MCP搜索检索

提供方 ItsMistahJi

搜索检索 stdio · 本地进程 无需鉴权 社区 / 第三方
查看接入方式

一个基于Python的MCP代理,允许用户与本地Word和Excel文档进行问答,所有处理均在本地完成,确保数据隐私。

一句话选型结论

按资料字段整理

local RAG MCP 属于搜索检索类 MCP 服务器,stdio · 本地进程,无需鉴权,有可直接执行的安装命令。接入前先确认权限范围;涉及写入、删除或付款的操作,建议先在测试环境验证。

分类搜索检索 传输方式stdio · 本地进程 鉴权无需鉴权 部署方式本地部署
GitHub 星标 2 仓库热度,无公开仓库时显示未标注
工具数 未标注 暴露给模型的工具数量
资源 / 提示词 0 / 0 资源与提示词模板数量
维护方 社区 / 第三方 核验等级 仅资料核对

工具与能力

搜索检索
数量来自来源目录的标注,具体工具清单以官方文档为准
工具数量未标注暴露给模型可调用的工具个数
资源数量0可读取的资源条目
提示词数量0内置提示词模板数量

能力标签

适用场景

本地处理Python本地部署文档问答RAGOllamaMCP集成

安装与配置

stdio · 本地进程 无需鉴权
客户端在本机拉起子进程,数据不出本机
python -m venv venv

这条命令只是入口,具体启动参数请按官方文档补齐,不要直接照搬到别的服务器。

  1. 1
    准备运行环境

    stdio 服务在本地起进程,需要先装好 Python,再按安装命令拉取依赖。

  2. 2
    安装服务

    复制上面的安装命令执行;命令里带占位符的位置,换成自己的密钥或路径。

  3. 3
    写入客户端配置

    在客户端的 MCP 配置里填好启动命令和参数,保存后完全退出客户端再打开,让新配置生效。

  4. 4
    验证是否可用

    连接成功后随便调一个只读工具,确认能返回结果,再接入正式流程。

典型使用场景

3 类
按分类与标签整理的常见用法,具体以官方文档为准
联网搜索取证

让模型查最新资料并给出出处。

资料聚合

把一个主题的网页、文档集中抓回来整理。

情报与竞品检索

按关键词持续检索行业动态和竞品信息。

选择建议

选之前先看这几条
按条目字段给出的判断,不替你决定用不用

值得选的地方

  • 有现成的安装命令,不用自己找入口,照着跑就能起服务。
  • 资料标注无需鉴权,装好就能连。

先想清楚的地方

  • stdio 方式要求本地装好运行时(如 Node.js),换机器要重新装一遍。
  • 资料没标注工具数量,实际能力要装好后确认。
  • 版本更新与行为细节以官方仓库为准。

更适合

  • 需要在搜索检索场景里让模型直接调用外部能力的人。
  • 想先快速试一下、能接受在本地或自有环境跑服务的人。

不太适合

  • 完全不想在本地装环境的人。
  • 需要厂商级 SLA 和技术支持的生产环境。

同类对比

6 个同类
同分类里挑最接近的几条,字段以各自详情页为准
MCP 服务器工具数传输方式部署方式安装命令最后核验
local RAG MCP当前 未标注 stdio · 本地进程 本地部署 有 2026-05-17
Brave Search 433812ff 2 未标注 未标注 无 2026-05-17
Sequentialthinking 1 SSE · 服务端推送 远程部署 有 2026-05-18
Baidu Netdisk 未标注 未标注 未标注 无 2026-05-17
ragflow 未标注 stdio · 本地进程 本地部署 有 2026-04-11
mindsdb (430e18) 未标注 未标注 未标注 有 2026-05-17

服务器档案

搜索检索
字段来自项目仓库与公开索引,中文说明由本站标注
提供方ItsMistahJi上游标注的维护方 ItsMistahJi
分类搜索检索本站按上游分类展示
连接方式stdio · 本地进程客户端在本机拉起子进程,数据不出本机
鉴权方式无需鉴权远程服务建议用最小权限凭据
维护方社区 / 第三方核验等级 仅资料核对
包名 / 运行时未标注 · Python本地安装时用到的包标识与运行时
部署类型本地部署上游给出的部署形态
最近核验2026-05-17上游最后核验时间

详细介绍

7.6 KB
来自项目仓库与上游目录的原文,未做删改

本地_RAG_mcp

这是我尝试创建一个本地RAG mcp服务器来与本地.docx、.xlsx文件聊天。

与Ollama&MCP的本地文件问答

该项目提供了一个基于Python的MCP代理,允许您使用Ollama进行本地语言模型推理,与本地Word(.docx)和Excel(.xlsx)文档聊天,确保您的私人数据保留在您的计算机上。

它使用LangChain社区组件进行文档加载、文本分割、嵌入和向量存储(ChromaDB),以及 mcp-sdk 将此功能作为一组工具公开。

特征:

  • 私人和本地: 所有的处理、嵌入和语言模型推理都是通过Ollama在本地进行的。没有数据离开你的机器。
  • 支持的文档类型: 目前支持Microsoft Word(.docx)和Excel(.xlsx)文件。(可轻松扩展为PDF、.txt等格式)
  • 简单索引: 一个专用的MCP工具,用于扫描指定目录、处理文档并构建可搜索的矢量索引。
  • 自然语言问答: 用自然语言询问有关文档内容的问题。
  • MCP集成: 通过MCP工具公开功能,可用于 MCP检查员 或 mcp-cli.

原理

  1. 文档加载: 代理扫描指定的本地文件夹以查找支持的文档。
  2. 文本分块: 文档内容被拆分为更小、可管理的块。
  3. 嵌入: 使用局部Ollama嵌入模型将每个块转换为数值表示(嵌入)(例如。, nomic-embed-text).
  4. 矢量存储: 这些嵌入及其相应的文本块存储在本地ChromaDB矢量存储中。
  5. 查询(RAG-检索增强生成):
    - 当你问一个问题时,它也会被嵌入。
    - 系统在向量存储中搜索嵌入与问题嵌入最相似的文档块。
    - 这些相关块(上下文)与您的原始问题组合成提示。
    - 该提示被发送到本地Ollama聊天模型(例如。, llama3)以生成答案。

先决条件

  1. python Python 3.9+
  2. 没有 : 你需要Ollama安装并运行。
    - 安装: ollama.com
    - 确保奥利玛为模特提供服务。您可以通过运行来测试这一点 ollama list 在你的终端。
  3. 所需Olama型号:
    - 拉动嵌入模型: ollama pull nomic-embed-text
    - 拉取聊天模式: ollama pull llama3

安装

  1. 克隆存储库(或下载脚本):```bash

If you create a Git repository:

git clone https://github.com/ItsMistahJi/local_RAG_mcp

cd local_RAG_mcp


1. **创建虚拟环境(推荐):**```bash
python -m venv venv
source venv/bin/activate  # On Windows: venv\Scripts\activate
  1. 安装Python依赖项:```bash
    pip install -r requirements.txt

## 设置和使用

1. **准备您的文件:**

- 创建一个名为的文件夹 `docs_simple` 与位于同一目录中 `server.py` 脚本(或配置 `DOC_DIR` 在脚本中)。
- 放置您的 `.docx` 和 `.xlsx` 将文件放入此 `docs_simple` 文件夹。

1. **运行MCP代理脚本:**
打开终端,导航到项目目录,然后运行:```bash
python server.py

脚本将启动,尝试连接到Ollama,然后等待MCP客户端连接(如MCP Inspector)。您将在此终端中看到日志输出。

  1. 使用MCP检查器进行交互(推荐):
  • 下载并安装 MCP检查员.
  • 打开MCP检查器。
  • 配置代理:
  • 如果未自动检测到代理,则可能需要手动添加它。
  • 转到“文件”>“首选项”>“代理”(或类似部分)。
  • 单击“添加”或“+”图标。
  • 姓名: 给它一个描述性的名称(例如,“我的本地RAG代理”)。
  • 命令: 输入完整命令以运行脚本: python /full/path/to/your/server.py.
  • 运输: 选择 stdio.
  • 保存配置。
  • 连接和使用:
  • 回到主MCP检查器窗口,在列表中找到您配置的代理。
  • 点击“连接”或其旁边的播放图标。MCP检查器将运行您的脚本。
  • 连接后,您将看到可用的工具:
  • initialize_and_index:请先运行此工具。这不需要争论。它将处理以下文件 docs_simple 并在中创建本地矢量数据库 chroma_db_simple。检查代理的终端日志以了解进度。
  • ask_question:索引完成后,使用此工具。这需要一个论点:```json
    {
    "question": "Your question about the documents here"
    }
代理将检索相关信息并生成答案。

1. **使用互动 `mcp-cli` (备选方案):**
确保你的Python脚本(`server.py`)是 **不** 已经在运行。 `mcp-cli` 将为每个命令启动它。

- **列出可用工具(可选检查):**```bash
mcp tool list CompanyDocumentQA-Ollama --command "python server.py" --transport stdio
  • 索引文件:```bash
    mcp tool call CompanyDocumentQA-Ollama initialize_and_index --command "python server.py" --transport stdio

*(等待此操作完成。您将在终端中看到日志。)*

- **问一个问题:**```bash
mcp tool call CompanyDocumentQA-Ollama ask_question '{"question": "What is the company policy on annual leave?"}' --command "python server.py" --transport stdio

脚本概述(server.py)

  • 配置: 文档目录、ChromaDB路径、Ollama模型等的顶部常量。
  • 辅助功能: 要加载和拆分文档,请初始化Ollama组件。
  • initialize_and_index (MCP工具):
  • 负载 .docx 和 .xlsx 文件夹。
  • 将它们分割成块。
  • 使用Ollama生成嵌入。
  • 将块和嵌入存储在持久ChromaDB中。
  • ask_question (MCP工具):
  • 回答用户问题。
  • 嵌入问题。
  • 从ChromaDB检索相关文档块。
  • 构造一个包含问题和上下文的提示。
  • 从Ollama LLM那里得到答案。
  • 主模块: 设置日志记录,初始化Ollama组件,并在上启动MCP代理服务器 stdio.

定制和未来增强功能

  • 更多文档类型: 添加PDF加载程序(PyPDFLoader),文本文件(TextLoader)等等,in load_documents_from_directory记住安装必要的软件包(例如。, pypdf, unstructured).
  • 不同型号: 改变 EMBEDDING_MODEL_NAME 和 LLM_MODEL_NAME 使用其他Ollama型号。确保它们在本地被拉动。
  • 分块策略: 试验 chunk_size 和 chunk_overlap 在……里面 RecursiveCharacterTextSplitter 为了获得更好的结果。
  • 检索器选项: 修改 search_kwargs={"k": 3} 在……里面 ask_question 以检索更多/更少的块。如果需要,探索其他检索模式。
  • 快速工程: 在中优化提示模板 ask_question 以获得更好的LLM响应。
  • 错误处理: 加强错误处理和用户反馈。
  • Web UI(例如Streamlit/Gradio): 将MCP代理或其核心逻辑封装在一个简单的web UI中,以便非技术用户更容易访问,可能是通过让UI调用MCP代理工具。

故障排除

  • “找不到Ollama”/连接错误:
  • 确保Ollama正在运行(ollama serve 或Ollama桌面应用程序)。
  • 验证 OLLAMA_BASE_URL 脚本中的内容与Ollama设置相匹配(默认值为 http://localhost:11434).
  • 确保模型(nomic-embed-text, llama3)被拉动: ollama list.
  • “找不到文档”/“矢量存储为空”:
  • 仔细检查 DOC_DIR 脚本中的路径,并确保它指向正确的文件夹。
  • 确保您的文档文件位于该文件夹中,并且具有支持的扩展名(.docx、.xlsx)。
  • 跑吧 initialize_and_index 工具。在索引过程中检查终端日志是否有错误。
  • mcp-cli 问题:
  • 确保 mcp-cli 安装正确(pip install "mcp-cli[cli]").
  • 使用完整 --command "python /path/to/script.py" 和 --transport stdio 旗帜。
  • MCP检查员看不到代理:
  • 确保您在MCP检查器首选项中正确配置了代理,并使用Python脚本的完整路径 stdio 运输。
  • 确保MCP检查器尝试启动脚本时,脚本尚未运行。

常见问题

7 问
答案由本站依据条目字段整理,不引用上游原文
local RAG MCP 怎么安装?

在客户端按下面的安装命令接入:python -m venv venv。装完在客户端配置里引用同一个包或端点。

local RAG MCP 怎么在客户端里配置?

它的传输方式未标注,在客户端 MCP 配置里按官方文档填写启动命令和参数,保存后重启客户端生效。

local RAG MCP 收费吗?

本站不代收费用,也没有标注具体价格。是否收费取决于服务本身和背后的接口额度,正式使用前按官方说明确认。

local RAG MCP 需要 API Key 吗?

资料标注为无需认证,装好就能连;如果实际调用时报鉴权错误,按官方文档补上凭据。

local RAG MCP 能提供哪些能力?

资料显示能力标签包括 本地处理、Python、RAG。具体工具清单以官方文档为准。

local RAG MCP 需要什么运行环境?

运行时为 Python;属于本地进程,需要在本机装好运行环境。

local RAG MCP 是本地还是远程?

它是本地进程(stdio),由客户端在本机拉起。传输方式为stdio · 本地进程。

热门专题

按标签挑服务器
全部专题 →

服务器信息以作者仓库与官方文档为准;分类、传输方式与鉴权方式的中文说明为中文整理,最近核验 2026-05-17。