Local MCP 484ee9b1

MCPAI代理

提供方 Abhimanyu07

AI代理 stdio · 本地进程 无需鉴权 社区 / 第三方 Claude DesktopClaude
查看接入方式

一个100%本地的AI系统,支持热插拔LLM模型、MCP工具调用和本地聊天界面,无需外部服务。

一句话选型结论

按资料字段整理

Local MCP 484ee9b1 属于AI代理类 MCP 服务器,stdio · 本地进程,无需鉴权,可直接接入 Claude Desktop、Claude,有可直接执行的安装命令。接入前先确认权限范围;涉及写入、删除或付款的操作,建议先在测试环境验证。

分类AI代理 传输方式stdio · 本地进程 鉴权无需鉴权 部署方式本地部署
GitHub 星标 0 仓库热度,无公开仓库时显示未标注
工具数 6 暴露给模型的工具数量
资源 / 提示词 0 / 0 资源与提示词模板数量
维护方 社区 / 第三方 核验等级 仅资料核对

工具与能力

AI代理
数量来自来源目录的标注,具体工具清单以官方文档为准
工具数量6暴露给模型可调用的工具个数
资源数量0可读取的资源条目
提示词数量0内置提示词模板数量

能力标签

支持客户端

适用场景

本地AIPython本地部署LLM模型工具调用聊天界面隐私保护

安装与配置

stdio · 本地进程 无需鉴权
客户端在本机拉起子进程,数据不出本机
pip install -r requirements.txt

这条命令只是入口,具体启动参数请按官方文档补齐,不要直接照搬到别的服务器。

  1. 1
    准备运行环境

    stdio 服务在本地起进程,需要先装好 Node.js 等运行时,再按安装命令拉取依赖。

  2. 2
    安装服务

    复制上面的安装命令执行;命令里带占位符的位置,换成自己的密钥或路径。

  3. 3
    写入客户端配置

    在客户端的 MCP 配置里填好启动命令和参数,保存后完全退出客户端再打开,让新配置生效。

  4. 4
    验证是否可用

    连接成功后客户端会列出约 6 个工具,随便调一个只读工具确认能返回结果。

典型使用场景

3 类
按分类与标签整理的常见用法,具体以官方文档为准
给代理接外部能力

让代理在任务中途调用搜索、数据库等真实工具。

多步任务编排

把一串操作拆成步骤,由代理按顺序执行。

自动化重复流程

把固定流程交给代理跑,减少手工操作。

选择建议

选之前先看这几条
按条目字段给出的判断,不替你决定用不用

值得选的地方

  • 资料标注 6 个工具,职责相对集中,接入后不容易误操作。
  • 有现成的安装命令,不用自己找入口,照着跑就能起服务。
  • 已适配 Claude Desktop、Claude,换客户端不用重新研究配置。
  • 资料标注无需鉴权,装好就能连。

先想清楚的地方

  • stdio 方式要求本地装好运行时(如 Node.js),换机器要重新装一遍。
  • 版本更新与行为细节以官方仓库为准。

更适合

  • 需要在AI代理场景里让模型直接调用外部能力的人。
  • 已经在用 Claude Desktop、Claude 的用户,接入路径最短。
  • 想先快速试一下、能接受在本地或自有环境跑服务的人。

不太适合

  • 完全不想在本地装环境的人。
  • 需要厂商级 SLA 和技术支持的生产环境。

同类对比

6 个同类
同分类里挑最接近的几条,字段以各自详情页为准
MCP 服务器工具数传输方式部署方式安装命令最后核验
Local MCP 484ee9b1当前 6 stdio · 本地进程 本地部署 有 2026-05-17
Filesystem 560c4363 13 未标注 本地部署 无 2026-05-17
Server Everything (everything) 11 stdio · 本地进程 本地部署 有 2026-05-17
Time 7365cb6d 2 SSE · 服务端推送 远程部署 有 2026-05-18
Everything Claude Code 未标注 stdio · 本地进程 本地部署 有 2026-05-17
Openmemory 557e1585 未标注 stdio · 本地进程 本地部署 有 2026-05-17

服务器档案

AI代理
字段来自项目仓库与公开索引,中文说明由本站标注
提供方Abhimanyu07上游标注的维护方 Abhimanyu07
分类AI代理本站按上游分类展示
连接方式stdio · 本地进程客户端在本机拉起子进程,数据不出本机
鉴权方式无需鉴权远程服务建议用最小权限凭据
维护方社区 / 第三方核验等级 仅资料核对
包名 / 运行时未标注 · 未标注本地安装时用到的包标识与运行时
部署类型本地部署上游给出的部署形态
最近核验2026-05-17上游最后核验时间

详细介绍

8.5 KB
来自项目仓库与上游目录的原文,未做删改

Local LLM with MCP Tools - Complete Local Setup

A 100% local AI system with hot-swappable LLM models, MCP tool calling, and local chat interfaces. No external services required!

🎯 What This Is

  • ✅ Local LLM models (Mistral, Llama 3, Phi-3)
  • ✅ Hot-swappable (switch models without restart)
  • ✅ MCP tools (6 tools the LLM can call)
  • ✅ Local chat interfaces (CLI + Web)
  • ✅ No external services (no Claude, OpenAI, etc.)

🚀 Quick Start

Step 1: Install Ollama

Ollama is the local LLM runtime that runs the models.

macOS```bash

brew install ollama


#### Linux```bash
curl -fsSL https://ollama.com/install.sh | sh

Windows

Download and install from ollama.com/download


Step 2: Start Ollama Service

macOS/Linux:```bash
ollama serve


**Windows:**
Ollama runs as a service automatically after installation. If not, run:```cmd
ollama serve

Keep this terminal/window running! This is the LLM engine.


Step 3: Install Python Dependencies

macOS/Linux:```bash
cd /Users/oseekero/robotics_stuff/local_mcp
pip install -r requirements.txt


**Windows:**```cmd
cd C:\path\to\local_mcp
pip install -r requirements.txt

Step 4: Run Chat Interface

Open a new terminal/command prompt (keep Ollama running in the first one).

Option A: Simple Chat (Recommended) ⭐

macOS/Linux:```bash
python simple_chat.py


**Windows:**```cmd
python simple_chat.py

Features:
- Direct slash commands for tools
- /models - List available models
- /switch - Change model (e.g., /switch llama3.1:8b)
- /info - Get current model info
- /clear - Clear conversation
- Just type normally to chat with the LLM


Option B: Auto Tool-Calling Chat

macOS/Linux:```bash
python chat.py


**Windows:**```cmd
python chat.py

Features:
- LLM automatically calls tools when needed
- Works best with Llama 3.1 8B or Mistral 7B
- Smaller models (phi3:mini) may not follow JSON format well


Option C: Web Interface

macOS/Linux:```bash
python web_chat.py


**Windows:**```cmd
python web_chat.py

Then open your browser to: http://localhost:8000

Features:
- Beautiful gradient UI
- Real-time WebSocket chat
- Typing indicators
- Model switching in browser


💬 Using the Chat

Simple Chat Commands```

You: /models
Assistant: Available Models:
• mistral:7b (active)
• llama3.1:8b
• phi3:mini
...

You: /switch llama3.1:8b
Assistant: Switched to llama3.1:8b

You: /info
Assistant: Model Information:
Name: llama3.1:8b
Size: 4.7GB
Context: 8192 tokens
...

You: Hello! How are you?
Assistant: I'm doing well! How can I help you today?


### Auto Tool-Calling Chat

The LLM automatically detects when to use tools:```
You: What models are available?
🔧 Calling tool: list_models
✓ Tool result: Available Models: mistral:7b, llama3.1:8b...
Assistant: Here are the available models: Mistral 7B (currently active), Llama 3.1 8B, Phi-3 Mini...

You: Switch to llama
🔧 Calling tool: switch_model
✓ Tool result: Successfully switched to llama3.1:8b
Assistant: I've switched to Llama 3.1 8B for you!

🤖 Pre-configured Models

Model Size Best For Tool Calling
mistral:7b ⭐ 4.1GB Balanced, good tool calling ✅ Excellent
llama3.1:8b ⭐ 4.7GB Best quality, great tool calling ✅ Excellent
llama3.2:3b 2.0GB Fast, lightweight ⚠️ Limited
phi3:mini 2.3GB Very fast, efficient ⚠️ Limited
phi3:medium 7.9GB Most capable ✅ Good

Recommended: Use mistral:7b or llama3.1:8b for best tool-calling performance.


🔧 Available Tools

The LLM can use these tools:

Tool Description Example
chat Chat with conversation history Automatic
complete Single text completion Automatic
switch_model Hot-swap to different model "Switch to mistral"
list_models Show all available models "What models are available?"
get_model_info Get model details "Tell me about the current model"
clear_conversation Reset conversation history "Clear the conversation"

🔄 Hot-Swapping Models

Change models instantly without restarting:

Method 1: In Chat```

/switch mistral:7b


### Method 2: Edit config.yaml```yaml
active_model: "llama3.1:8b"

Save the file - the system auto-reloads!

Method 3: Programmatically```python

from config_manager import ConfigManager
config = ConfigManager()
config.set_active_model("phi3:mini")


---

## 📁 Project Structure```
local_mcp/
├── simple_chat.py         # ⭐ CLI chat with slash commands (RECOMMENDED)
├── chat.py                # CLI chat with auto tool-calling
├── web_chat.py            # Web UI chat interface
├── local_mcp_client.py    # MCP client for tool calling
├── model_manager.py       # Model operations (download, switch, generate)
├── llm_tools.py           # 6 MCP tools
├── config_manager.py      # Configuration management
├── config.yaml            # Settings (active model, parameters)
├── main.py                # MCP server (for external clients like Claude)
├── requirements.txt       # Python dependencies
├── test_server.py         # Test suite
├── debug_chat.py          # Debug tool calling
└── README.md              # This file

🛠️ Platform-Specific Instructions

macOS

Terminal 1:```bash
ollama serve


**Terminal 2:**```bash
cd /Users/oseekero/robotics_stuff/local_mcp
python simple_chat.py

First run: Downloads the active model (~4GB for mistral:7b)


Linux

Terminal 1:```bash
ollama serve


**Terminal 2:**```bash
cd /path/to/local_mcp
python3 simple_chat.py

Note: Use python3 instead of python on most Linux distributions.


Windows

Command Prompt 1:```cmd
ollama serve

(Or Ollama may already be running as a service)

**Command Prompt 2:**```cmd
cd C:\path\to\local_mcp
python simple_chat.py

PowerShell Alternative:```powershell
cd C:\path\to\local_mcp
python simple_chat.py


---

## 🧪 Testing

### Quick Test```bash
python debug_chat.py

Shows exactly what's happening with tool calls.

Full Test Suite```bash

python test_server.py

Tests all components.

### Simple Example```bash
python quick_test.py

Quick functionality test.


⚙️ Configuration

Edit config.yaml to customize:```yaml

Active model (hot-swappable)

active_model: "mistral:7b"

Model parameters

model_params:
temperature: 0.7 # Randomness (0.0-2.0)
top_p: 0.9 # Nucleus sampling
num_ctx: 4096 # Context window
num_predict: 512 # Max tokens to generate

Ollama settings

ollama:
host: "http://localhost:11434"
auto_pull: true # Auto-download models


---

## 🐛 Troubleshooting

### "ollama not found"
**Solution:** Install Ollama (see Step 1 above)

### "Connection refused"
**Solution:** Make sure `ollama serve` is running

### Model download slow
**Solution:** First download takes time (2-5GB per model). Be patient!

### Tools not being called
**Solution:**
1. Use `simple_chat.py` with slash commands (always works)
2. Or switch to `mistral:7b` or `llama3.1:8b` (better at tool calling)
3. Run `debug_chat.py` to see what's happening

### Port 8000 already in use (web chat)
**Solution:** Edit `web_chat.py` and change the port:```python
uvicorn.run(app, host="0.0.0.0", port=8001)  # Change to 8001

Windows: "python not found"

Solution: Use py instead of python:```cmd
py simple_chat.py


---

## 🔌 Using as MCP Server (Advanced)

To use with external MCP clients like Claude Desktop:

**Start MCP server:**```bash
python main.py

Configure Claude Desktop (~/Library/Application Support/Claude/claude_desktop_config.json on macOS):json { "mcpServers": { "local-llm": { "command": "python", "args": ["/Users/oseekero/robotics_stuff/local_mcp/main.py"] } } }

Restart Claude Desktop to connect.


🎉 Summary

You now have a fully local AI system:

✅ No API keys needed
✅ No external services
✅ Complete privacy
✅ Works offline (after model download)
✅ Hot-swappable models
✅ Tool calling capability
✅ Multiple interfaces (CLI + Web)

Recommended workflow:
1. ollama serve (Terminal 1)
2. python simple_chat.py (Terminal 2)
3. Use /models, /switch, /info commands
4. Chat normally with the LLM

Enjoy your local AI! 🚀

常见问题

8 问
答案由本站依据条目字段整理,不引用上游原文
Local MCP 484ee9b1 怎么安装?

在客户端按下面的安装命令接入:pip install -r requirements.txt。装完在客户端配置里引用同一个包或端点。

Local MCP 484ee9b1 怎么在 Claude Desktop、Claude 里配置?

它的传输方式是stdio · 本地进程,在客户端的 MCP 配置里填好启动命令和参数,保存后完全退出客户端再打开,配置才会生效。

Local MCP 484ee9b1 收费吗?

本站不代收费用,也没有标注具体价格。是否收费取决于服务本身和背后的接口额度,正式使用前按官方说明确认。

Local MCP 484ee9b1 需要 API Key 吗?

资料标注为无需认证,装好就能连;如果实际调用时报鉴权错误,按官方文档补上凭据。

Local MCP 484ee9b1 支持哪些客户端?

资料标注支持 Claude Desktop、Claude;其他客户端只要能配置 MCP Server,也能用同样的命令或地址接入。

Local MCP 484ee9b1 能提供哪些能力?

资料显示约 6 个工具;能力标签包括 本地AI、聊天界面、Python、Claude、隐私保护。具体工具清单以官方文档为准。

Local MCP 484ee9b1 需要什么运行环境?

属于本地进程,需要在本机装好运行环境。

Local MCP 484ee9b1 是本地还是远程?

它是本地进程(stdio),由客户端在本机拉起。传输方式为stdio · 本地进程。

热门专题

按标签挑服务器
全部专题 →

服务器信息以作者仓库与官方文档为准;分类、传输方式与鉴权方式的中文说明为中文整理,最近核验 2026-05-17。