LLM Rag MCP Example

MCP数据服务

提供方 giuliolibrando

数据服务 未标注 无需鉴权 社区 / 第三方

一个部署本地LLM平台的工具,支持RAG和MCP功能,适用于IT基础设施管理。

一句话选型结论

按资料字段整理

LLM Rag MCP Example 属于数据服务类 MCP 服务器,传输方式未标注,无需鉴权,没有现成安装命令,需按官方文档接入。接入前先确认权限范围;涉及写入、删除或付款的操作,建议先在测试环境验证。

分类数据服务 传输方式未标注 鉴权无需鉴权 部署方式未标注
GitHub 星标 2 仓库热度,无公开仓库时显示未标注
工具数 未标注 暴露给模型的工具数量
资源 / 提示词 0 / 0 资源与提示词模板数量
维护方 社区 / 第三方 核验等级 仅资料核对

工具与能力

数据服务
数量来自来源目录的标注,具体工具清单以官方文档为准
工具数量未标注暴露给模型可调用的工具个数
资源数量0可读取的资源条目
提示词数量0内置提示词模板数量

能力标签

适用场景

本地LLMPython本地部署RAGMCPIT基础设施管理向量数据库

安装与配置

未标注 无需鉴权
上游未给出传输方式
  1. 1
    准备运行环境

    按官方文档确认运行环境(常见为 Node.js 或 Python),装好后再执行安装命令。

  2. 2
    安装服务

    复制上面的安装命令执行;命令里带占位符的位置,换成自己的密钥或路径。

  3. 3
    写入客户端配置

    在客户端的 MCP 配置里填好启动命令和参数,保存后完全退出客户端再打开,让新配置生效。

  4. 4
    验证是否可用

    连接成功后随便调一个只读工具,确认能返回结果,再接入正式流程。

典型使用场景

3 类
按分类与标签整理的常见用法,具体以官方文档为准
数据库查询

用自然语言查库、取数,不用手写 SQL。

数据同步与清洗

把多来源数据拉到一处做整理。

报表取数

按口径快速拉出统计结果。

选择建议

选之前先看这几条
按条目字段给出的判断,不替你决定用不用

值得选的地方

  • 资料标注无需鉴权,装好就能连。

先想清楚的地方

  • 没有现成安装命令,需要按官方文档自己填启动命令和参数。
  • 资料没标注工具数量,实际能力要装好后确认。
  • 版本更新与行为细节以官方仓库为准。

更适合

  • 需要在数据服务场景里让模型直接调用外部能力的人。
  • 想先快速试一下、能接受在本地或自有环境跑服务的人。

不太适合

  • 需要厂商级 SLA 和技术支持的生产环境。

同类对比

6 个同类
同分类里挑最接近的几条,字段以各自详情页为准
MCP 服务器工具数传输方式部署方式安装命令最后核验
LLM Rag MCP Example当前 未标注 未标注 未标注 无 2026-05-17
Memory 9d25f64e 9 未标注 未标注 无 2026-05-17
Getzep MCP 9 stdio · 本地进程 本地部署 有 2026-05-17
anything-llm 未标注 stdio · 本地进程 本地部署 有 2026-04-11
Prisma MCP Server 未标注 stdio · 本地进程 本地部署 有 2026-05-17
Astr Bot 未标注 stdio · 本地进程 本地部署 有 2026-05-17

服务器档案

数据服务
字段来自项目仓库与公开索引,中文说明由本站标注
提供方giuliolibrando上游标注的维护方 giuliolibrando
分类数据服务本站按上游分类展示
连接方式未标注上游未给出传输方式
鉴权方式无需鉴权远程服务建议用最小权限凭据
维护方社区 / 第三方核验等级 仅资料核对
包名 / 运行时未标注 · 未标注本地安装时用到的包标识与运行时
部署类型未标注上游给出的部署形态
最近核验2026-05-17上游最后核验时间

详细介绍

3.6 KB
来自项目仓库与上游目录的原文,未做删改

自述文件

此存储库包含Medium文章中使用的代码\
“利用RAG和MCP的力量:本地AI如何管理您的整个IT基础设施”:\
https://medium.com/@giulio.librand/auggles-the power of rag and mcp-how-on-premise-ai-manager-your轮胎it基础设施-5d204649aeee

概述

该堆栈部署了一个具有RAG(检索增强生成)和MCP功能的本地LLM平台。它包括:

  • 任何事情LLM:用于多用户聊天的Web UI
  • 奥利玛(3个复制品):LLM推理(此设置中仅限CPU)
  • Nginx路由器:跨Ollama副本的负载平衡
  • Qdrant:用于存储嵌入的矢量数据库
  • RAG英格斯托:从Redmine和Wiki.js提取数据、嵌入数据并将其推送到Qdrant的Python脚本
  • Nginx代理管理器(NPM):简单的反向代理和TLS终止

目录结构```

.
├─ docker-compose.yml
├─ .env
├─ router/
│ └─ nginx.conf
├─ npm/
│ ├─ data/ (created by NPM)
│ └─ letsencrypt/ (created by NPM)
└─ rag-ingestor/
├─ requirements.txt
├─ run_cron.sh
├─ rag_common.py
├─ ingest_redmine.py
└─ ingest_wikijs.py


## 环境变量

这 `.env` 文件定义配置。例子:```
TZ=Europe/Rome
ALLM_JWT_SECRET=replace_with_long_random_string

# Qdrant
QDRANT_API_KEY=

# Redmine
REDMINE_URL=https://redmine.local
REDMINE_TOKEN=xxxxxxxx
REDMINE_PROJECTS=infra,platform
REDMINE_LOOKBACK_DAYS=14
REDMINE_COLLECTION=redmine

# Wiki.js
WIKIJS_URL=https://wiki.local
WIKIJS_TOKEN=yyyyyyyy
WIKIJS_SPACES=*
WIKIJS_COLLECTION=wikijs

# Embeddings
EMBEDDING_MODEL=intfloat/e5-large-v2

# RAG Ingestor
STATE_DIR=/app/state
UPSERT_BATCH=64
HTTP_TIMEOUT=40
DEFAULT_SCHEDULE=*/30 * * * *

备注

  • ALLM_JWT_SECRET:必填。生成一个长随机字符串。
  • REDMINE_TOKEN:Redmine的API密钥。
  • WIKIJS_TOKEN:Wiki.js中的API令牌。
  • REDMINE_PROJECTS:以逗号分隔的要索引的项目列表。
  • *_COLLECTION:Qdrant中的集合名称,可以更改。
  • QDRANT_API_KEY:除非在Qdrant中启用API密钥保护,否则保留为空。

首次运行

  1. 创建 .env 具有适当的值。
  2. 启动堆栈:```
    docker compose up -d
1. 等待容器装满(`docker ps`).

## Ollama的拉模型

内部 `ollama1` 集装箱、拉式模型:```
docker exec -it ollama1 bash -lc "ollama pull llama3.1:8b-instruct-q4_K_M"
docker exec -it ollama1 bash -lc "ollama pull qwen2.5:7b-instruct-q4_K_M"

复制品 ollama2 和 ollama3 首次使用时将下载模型。

使用系统

  • 通过您配置的域或IP路径访问AnythingLLM。
  • 登录并创建工作区。
  • 确保矢量数据库设置为Qdrant(http://qdrant:6333 Docker网络内部)。
  • RAG Ingestor将定期运行(默认情况下每30分钟运行一次,或根据 # SCHEDULE= 脚本中的指令),并用Redmine和Wiki.js内容填充Qdrant。

验证

检查Qdrant集合:```
curl http://:6333/collections


检查进气管日志:```
docker logs -f rag-ingestor

检查AnythingLLM API:```
curl http://:3001/ --head


检查Ollama路由器:```
curl http://:11434/api/tags

数据持久层

  • ./npm/data 和 ./npm/letsencrypt:Nginx代理管理器配置和证书
  • ./ollama*:Olama模型和缓存
  • ./qdrant_storage:Qdrant数据库
  • ./anythingllm_data:任何LLM工作空间存储
  • ./rag-ingestor/state:ETL作业的增量状态

安全

  • 更改所有默认凭据(NPM、AnythingLLM)。
  • 保护NPM仪表板(:81)使用防火墙或VPN。
  • 仅暴露VM的端口80/443/81。
  • 如果可能的话,使用公司CA的内部DNS名称和证书。

常见问题

5 问
答案由本站依据条目字段整理,不引用上游原文
LLM Rag MCP Example 怎么安装?

资料没有给出安装命令,请到官方仓库或文档按说明接入;这类条目多数是生态应用,或尚未发布可安装包。

LLM Rag MCP Example 怎么在客户端里配置?

它的传输方式未标注,在客户端 MCP 配置里按官方文档填写启动命令和参数,保存后重启客户端生效。

LLM Rag MCP Example 收费吗?

本站不代收费用,也没有标注具体价格。是否收费取决于服务本身和背后的接口额度,正式使用前按官方说明确认。

LLM Rag MCP Example 需要 API Key 吗?

资料标注为无需认证,装好就能连;如果实际调用时报鉴权错误,按官方文档补上凭据。

LLM Rag MCP Example 能提供哪些能力?

资料显示能力标签包括 本地LLM、向量数据库、Python、RAG。具体工具清单以官方文档为准。

热门专题

按标签挑服务器
全部专题 →

服务器信息以作者仓库与官方文档为准;分类、传输方式与鉴权方式的中文说明为中文整理,最近核验 2026-05-17。