Lfm2 5 Local

MCPAI代理

提供方 WispAyr

AI代理 stdio · 本地进程 无需鉴权 社区 / 第三方 Claude DesktopClaudeCursor
查看接入方式

LFM2.5是一款本地运行的AI聊天与MCP服务器工具,支持在Apple Silicon Mac上运行,提供高效的聊天界面和MCP集成,适用于开发者和AI研究者。

一句话选型结论

按资料字段整理

Lfm2 5 Local 属于AI代理类 MCP 服务器,stdio · 本地进程,无需鉴权,可直接接入 Claude Desktop、Claude、Cursor,有可直接执行的安装命令。接入前先确认权限范围;涉及写入、删除或付款的操作,建议先在测试环境验证。

分类AI代理 传输方式stdio · 本地进程 鉴权无需鉴权 部署方式本地部署
GitHub 星标 1 仓库热度,无公开仓库时显示未标注
工具数 4 暴露给模型的工具数量
资源 / 提示词 0 / 0 资源与提示词模板数量
维护方 社区 / 第三方 核验等级 仅资料核对

工具与能力

AI代理
数量来自来源目录的标注,具体工具清单以官方文档为准
工具数量4暴露给模型可调用的工具个数
资源数量0可读取的资源条目
提示词数量0内置提示词模板数量

能力标签

支持客户端

适用场景

本地AIPython本地部署聊天界面MCP集成AppleSilicon高效推理

安装与配置

stdio · 本地进程 无需鉴权
客户端在本机拉起子进程,数据不出本机
pip install mlx-lm

这条命令只是入口,具体启动参数请按官方文档补齐,不要直接照搬到别的服务器。

  1. 1
    准备运行环境

    stdio 服务在本地起进程,需要先装好 Node.js 等运行时,再按安装命令拉取依赖。

  2. 2
    安装服务

    复制上面的安装命令执行;命令里带占位符的位置,换成自己的密钥或路径。

  3. 3
    写入客户端配置

    在客户端的 MCP 配置里填好启动命令和参数,保存后完全退出客户端再打开,让新配置生效。

  4. 4
    验证是否可用

    连接成功后客户端会列出约 4 个工具,随便调一个只读工具确认能返回结果。

典型使用场景

3 类
按分类与标签整理的常见用法,具体以官方文档为准
给代理接外部能力

让代理在任务中途调用搜索、数据库等真实工具。

多步任务编排

把一串操作拆成步骤,由代理按顺序执行。

自动化重复流程

把固定流程交给代理跑,减少手工操作。

选择建议

选之前先看这几条
按条目字段给出的判断,不替你决定用不用

值得选的地方

  • 资料标注 4 个工具,职责相对集中,接入后不容易误操作。
  • 有现成的安装命令,不用自己找入口,照着跑就能起服务。
  • 已适配 Claude Desktop、Claude、Cursor,换客户端不用重新研究配置。
  • 资料标注无需鉴权,装好就能连。

先想清楚的地方

  • stdio 方式要求本地装好运行时(如 Node.js),换机器要重新装一遍。
  • 版本更新与行为细节以官方仓库为准。

更适合

  • 需要在AI代理场景里让模型直接调用外部能力的人。
  • 已经在用 Claude Desktop、Claude 的用户,接入路径最短。
  • 想先快速试一下、能接受在本地或自有环境跑服务的人。

不太适合

  • 完全不想在本地装环境的人。
  • 需要厂商级 SLA 和技术支持的生产环境。

同类对比

6 个同类
同分类里挑最接近的几条,字段以各自详情页为准
MCP 服务器工具数传输方式部署方式安装命令最后核验
Lfm2 5 Local当前 4 stdio · 本地进程 本地部署 有 2026-05-17
Filesystem 560c4363 13 未标注 本地部署 无 2026-05-17
Server Everything (everything) 11 stdio · 本地进程 本地部署 有 2026-05-17
Time 7365cb6d 2 SSE · 服务端推送 远程部署 有 2026-05-18
Everything Claude Code 未标注 stdio · 本地进程 本地部署 有 2026-05-17
Openmemory 557e1585 未标注 stdio · 本地进程 本地部署 有 2026-05-17

服务器档案

AI代理
字段来自项目仓库与公开索引,中文说明由本站标注
提供方WispAyr上游标注的维护方 WispAyr
分类AI代理本站按上游分类展示
连接方式stdio · 本地进程客户端在本机拉起子进程,数据不出本机
鉴权方式无需鉴权远程服务建议用最小权限凭据
维护方社区 / 第三方核验等级 仅资料核对
包名 / 运行时未标注 · 未标注本地安装时用到的包标识与运行时
部署类型本地部署上游给出的部署形态
最近核验2026-05-17上游最后核验时间

详细介绍

5.6 KB
来自项目仓库与上游目录的原文,未做删改

LFM2.5——设备上AI聊天和MCP服务器

跑 Liquid AI的LFM2.5-1.2B-说明书 在Mac上本地建模,具有漂亮的聊天界面和MCP集成,可用于Claude Desktop、Cursor和OpenClaw等工具。

苹果硅上约120 tok/s · 4台Mac的传输速度约为480 tok/s · 1.5GB内存 · 100%私人&离线

✨ 特性

  • 🖥️ 漂亮的聊天界面 --深色主题、响应式聊天界面,带有markdown渲染、代码突出显示和实时性能指标
  • ⚡ MLX加速 --通过8位量化的MLX在Apple Silicon上原生运行
  • 🔌 MCP服务器 --将LFM2.5作为Claude Desktop、Cursor、OpenClaw和任何MCP兼容客户端的工具公开
  • 🔀 多Mac集群 --通过自动负载平衡和故障转移在多台M4 Mac上分发推理
  • 📊 实时统计数据 --实时显示令牌计数、生成速度(tok/s)和响应时间
  • 🎯 快速提示 --常见任务的预构建提示(CRISPR解释、代码架构、创意写作、数据分析)

🏗️ 建筑```

Single-Mac Mode:
Client → MLX Server (:8080)

Cluster Mode (4× throughput):
Client → Cluster LB (:5200) → Mac 1 MLX (:8080)
→ Mac 2 MLX (:8080)
→ Mac 3 MLX (:8080)
→ Mac 4 MLX (:8080)


## 🚀 快速开始

### 先决条件

- 带苹果硅(M1/M2/M3/M4)的macOS
- Python 3.10+
- 玻璃直线磨斜边机 和 mlx lm

### 1.安装```bash
# Clone the repo
git clone https://github.com/WispAyr/LFM2.5-local.git
cd LFM2.5-local

# Install MLX dependencies (if needed)
pip install mlx-lm

# Install MCP dependencies
python3 -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt

2.跑步```bash

Just the MLX server + chat UI

./start_server.sh

MLX + MCP server (for Claude Desktop, Cursor, OpenClaw)

./start_server.sh --mcp

Everything (MLX + MCP + web UI)

./start_server.sh --all

Multi-Mac cluster (MLX + Load Balancer + MCP + web UI)

./start_server.sh --cluster


### 3.打开

|服务|URL|描述|
|---------|-----|-------------|
|聊天界面|http://localhost:3000|网络聊天界面|
|API MLX |http://localhost:8080/v1|兼容OpenAI的API|
|集群LB|http://localhost:5200/v1|负载平衡API(集群模式)|
|群集状态|http://localhost:5200/cluster/status|实时节点运行状况|
|MCP服务器|http://localhost:5100/mcp|MCP协议端点|

## 🔌 MCP集成

MCP服务器公开LFM2.5作为任何MCP兼容客户端都可以调用的工具。

### 工具

|工具|说明|
|------|-------------|
| `chat` |通用聊天——提问、推理、写作|
| `summarize` |用可配置的长度总结文本|
| `analyze_code` |代码审查、错误检测、建议|

### 资源

|URI|描述|
|-----|-------------|
| `lfm25://model/info` |模型架构、规格、功能|
| `lfm25://server/status` |实时MLX服务器连接状态|

### 提示

|提示|描述|
|--------|-------------|
| `code_review` |结构化代码审查模板|
| `explain_concept` |ELI5风格概念说明|

### 连接到克劳德桌面

添加 `~/Library/Application Support/Claude/claude_desktop_config.json`:```json
{
"mcpServers": {
"lfm25": {
"command": "/path/to/LFM2.5-local/.venv/bin/python3",
"args": ["/path/to/LFM2.5-local/mcp_server.py"]
}
}
}

连接到光标

设置→ MCP服务器→ 添加并粘贴相同的配置。

连接到OpenClaw

指向 http://localhost:5100/mcp 作为MCP服务器端点。

📁 项目结构```

├── index.html # Chat web UI (single-file, no build step)
├── mcp_server.py # FastMCP server with tools, resources, prompts
├── cluster.py # Multi-Mac cluster load balancer
├── cluster_config.json # Cluster node configuration
├── server.py # Web UI proxy server (serves static + proxies API)
├── mcp_config.json # MCP config template for Claude Desktop / Cursor
├── start_server.sh # Launcher script (--mcp, --all, --cluster flags)
├── demo_lfm25.py # Python demo script
└── requirements.txt # Python dependencies


## 🔀 多Mac集群

在多台M4 Mac上分发推理 **~480tok/s的综合吞吐量** 以及自动故障转移。

### 设置

**1.在每台Mac上**,启动MLX服务器:```bash
pip install mlx-lm
python3 -m mlx_lm.server --model LiquidAI/LFM2.5-1.2B-Instruct-MLX-8bit --port 8080 --host 0.0.0.0

2.编辑 cluster_config.json 在主Mac上使用每个节点的IP:```json
{
"nodes": [
{"name": "Mac-1", "host": "192.168.1.10", "port": 8080, "weight": 1},
{"name": "Mac-2", "host": "192.168.1.11", "port": 8080, "weight": 1},
{"name": "Mac-3", "host": "192.168.1.12", "port": 8080, "weight": 1},
{"name": "Mac-4", "host": "192.168.1.13", "port": 8080, "weight": 1}
]
}


**3.启动集群:**```bash
./start_server.sh --cluster

特性

  • 负载最小的路由 对于POST请求,GET采用轮转
  • 健康检查 每5秒进行一次自动故障切换
  • SSE流媒体 passthrough用于实时令牌生成
  • 节点权重 优先考虑更快的Mac
  • 状态仪表板 在 /cluster/status 每个节点的度量

🧠 关于LFM2.5

LFM2.5是 不是变压器这是一种混合架构 液态AI 结合:

  • 10×门控短卷积 图层--快速顺序处理
  • 6×分组查询注意力 层次——选择性注意

这赋予了它独特的性能:极快的推理速度(在M系列Mac上约为120+tok/s),参数占用空间较小,为1.17B。

规格 值
参数 1.17B
图层 16
上下文 32K令牌
词汇表 65536
培训 28T代币
量化 8位(MLX)

📄 许可证

麻省理工学院

🔗 链接

  • 液态AI
  • LFM2.5在拥抱脸上
  • LFM2.5纸张
  • 玻璃直线磨斜边机
  • FastMCP

常见问题

8 问
答案由本站依据条目字段整理,不引用上游原文
Lfm2 5 Local 怎么安装?

在客户端按下面的安装命令接入:pip install mlx-lm。装完在客户端配置里引用同一个包或端点。

Lfm2 5 Local 怎么在 Claude Desktop、Claude、Cursor 里配置?

它的传输方式是stdio · 本地进程,在客户端的 MCP 配置里填好启动命令和参数,保存后完全退出客户端再打开,配置才会生效。

Lfm2 5 Local 收费吗?

本站不代收费用,也没有标注具体价格。是否收费取决于服务本身和背后的接口额度,正式使用前按官方说明确认。

Lfm2 5 Local 需要 API Key 吗?

资料标注为无需认证,装好就能连;如果实际调用时报鉴权错误,按官方文档补上凭据。

Lfm2 5 Local 支持哪些客户端?

资料标注支持 Claude Desktop、Claude、Cursor;其他客户端只要能配置 MCP Server,也能用同样的命令或地址接入。

Lfm2 5 Local 能提供哪些能力?

资料显示约 4 个工具;能力标签包括 本地AI、Python、Claude、聊天界面。具体工具清单以官方文档为准。

Lfm2 5 Local 需要什么运行环境?

属于本地进程,需要在本机装好运行环境。

Lfm2 5 Local 是本地还是远程?

它是本地进程(stdio),由客户端在本机拉起。传输方式为stdio · 本地进程。

热门专题

按标签挑服务器
全部专题 →

服务器信息以作者仓库与官方文档为准;分类、传输方式与鉴权方式的中文说明为中文整理,最近核验 2026-05-17。