Byte Vision MCP

MCPAI代理

提供方 kbrisso

AI代理 未标注 无需鉴权 社区 / 第三方 Claude DesktopClaude

Byte Vision MCP 是一个基于 MCP 协议的本地文本生成服务,使用 LLama.cpp 模型提供文本补全功能,支持本地部署和隐私保护。

一句话选型结论

按资料字段整理

Byte Vision MCP 属于AI代理类 MCP 服务器,传输方式未标注,无需鉴权,可直接接入 Claude Desktop、Claude,没有现成安装命令,需按官方文档接入。接入前先确认权限范围;涉及写入、删除或付款的操作,建议先在测试环境验证。

分类AI代理 传输方式未标注 鉴权无需鉴权 部署方式未标注
GitHub 星标 11 仓库热度,无公开仓库时显示未标注
工具数 未标注 暴露给模型的工具数量
资源 / 提示词 0 / 0 资源与提示词模板数量
维护方 社区 / 第三方 核验等级 仅资料核对

工具与能力

AI代理
数量来自来源目录的标注,具体工具清单以官方文档为准
工具数量未标注暴露给模型可调用的工具个数
资源数量0可读取的资源条目
提示词数量0内置提示词模板数量

能力标签

支持客户端

适用场景

文本生成Go本地部署本地AILLama.cppMCP协议隐私保护

安装与配置

未标注 无需鉴权
上游未给出传输方式
  1. 1
    准备运行环境

    按官方文档确认运行环境(常见为 Node.js 或 Python),装好后再执行安装命令。

  2. 2
    安装服务

    复制上面的安装命令执行;命令里带占位符的位置,换成自己的密钥或路径。

  3. 3
    写入客户端配置

    在客户端的 MCP 配置里填好启动命令和参数,保存后完全退出客户端再打开,让新配置生效。

  4. 4
    验证是否可用

    连接成功后随便调一个只读工具,确认能返回结果,再接入正式流程。

典型使用场景

3 类
按分类与标签整理的常见用法,具体以官方文档为准
给代理接外部能力

让代理在任务中途调用搜索、数据库等真实工具。

多步任务编排

把一串操作拆成步骤,由代理按顺序执行。

自动化重复流程

把固定流程交给代理跑,减少手工操作。

选择建议

选之前先看这几条
按条目字段给出的判断,不替你决定用不用

值得选的地方

  • 已适配 Claude Desktop、Claude,换客户端不用重新研究配置。
  • 资料标注无需鉴权,装好就能连。

先想清楚的地方

  • 没有现成安装命令,需要按官方文档自己填启动命令和参数。
  • 资料没标注工具数量,实际能力要装好后确认。
  • 版本更新与行为细节以官方仓库为准。

更适合

  • 需要在AI代理场景里让模型直接调用外部能力的人。
  • 已经在用 Claude Desktop、Claude 的用户,接入路径最短。
  • 想先快速试一下、能接受在本地或自有环境跑服务的人。

不太适合

  • 需要厂商级 SLA 和技术支持的生产环境。

同类对比

6 个同类
同分类里挑最接近的几条,字段以各自详情页为准
MCP 服务器工具数传输方式部署方式安装命令最后核验
Byte Vision MCP当前 未标注 未标注 未标注 无 2026-05-17
Filesystem 560c4363 13 未标注 本地部署 无 2026-05-17
Server Everything (everything) 11 stdio · 本地进程 本地部署 有 2026-05-17
Time 7365cb6d 2 SSE · 服务端推送 远程部署 有 2026-05-18
Everything Claude Code 未标注 stdio · 本地进程 本地部署 有 2026-05-17
Openmemory 557e1585 未标注 stdio · 本地进程 本地部署 有 2026-05-17

服务器档案

AI代理
字段来自项目仓库与公开索引,中文说明由本站标注
提供方kbrisso上游标注的维护方 kbrisso
分类AI代理本站按上游分类展示
连接方式未标注上游未给出传输方式
鉴权方式无需鉴权远程服务建议用最小权限凭据
维护方社区 / 第三方核验等级 仅资料核对
包名 / 运行时未标注 · 未标注本地安装时用到的包标识与运行时
部署类型未标注上游给出的部署形态
最近核验2026-05-17上游最后核验时间

详细介绍

11.3 KB
来自项目仓库与上游目录的原文,未做删改

字节视觉MCP

一种模型上下文协议(MCP)服务器,使用本地LLama.cpp模型提供文本完成功能。这
服务器公开了一个MCP工具,该工具接受文本提示,并使用本地托管返回AI生成的补全
语言模型。

这个项目是什么?

Byte Vision MCP是MCP兼容客户端(如Claude Desktop、IDE或其他AI工具)和本地客户端之间的桥梁
LLama.cpp语言模型。它允许您:

  • 通过MCP协议使用本地语言模型
  • 通过环境文件配置所有模型参数
  • 使用自定义提示生成文本补全
  • 通过保持一切本地化来维护隐私
  • 与MCP兼容的应用程序集成

特性

  • MCP协议支持:标准MCP服务器实现
  • 本地模型执行:使用LLama.cpp进行模型推理
  • 可配置参数:所有设置均通过环境文件控制
  • GPU加速:支持CUDA、ROCm和Metal
  • 快速缓存:内置缓存以提高性能
  • 综合录井:调试和监控的详细日志记录
  • 优雅地关闭:适当的资源清理和错误处理

构建于

核心依赖关系

  • github/joho/godotenv v1.5.1 -从加载环境变量 .env
    文件
  • github/metoro-io/mcp-golang v0.12.0 -模型上下文协议(MCP)
    Go的实现

间接依赖关系

Web框架和HTTP

  • github网址:www.gin-gonic/gin v1.8.1 -HTTP web框架
  • github.com/gin-contrib/sse v0.1.0 -服务器发送事件支持

运行时间要求

  • Go SDK 1.23+ -具有最新功能的现代Go运行时
  • LLama.cpp -本地语言模型推理引擎
  • GGUF型号 -GGUF格式的量化语言模型

先决条件

  • 转到1.23+ 用于构建服务器
  • LLama.cpp二进制文件 (参见 /llamacpp/README.md 用于安装)
  • GGUF格式模型 (参见 /models/README.md 来源)

快速开始

1.克隆和构建```bash

git clone
cd byte-vision-mcp
go mod tidy
go build -o byte-vision-mcp


### 2.设置LLama.cpp

请按照以下说明进行操作: `/llamacpp/README.md`

- 下载预构建的二进制文件,或
- 从源代码构建

### 3.下载模型

请参阅: `/models/README.md`

- 推荐的模型来源
- 如何下载GGUF模型
- 模型放置说明

### 4.配置环境

复制示例配置:```
cp example-byte-vision-cfg.env byte-vision-cfg.env

编辑以匹配您的设置: byte-vision-cfg.env

更新路径以匹配您的安装

LLamaCliPath=/path/to/your/llama cli
ModelFullPathVal=/path/to/your/model.gguf
AppLogPath=/path/to/logs/

5.运行服务器```

./byte-vision-mcp


服务器将于启动 `http://localhost:8080/mcp-completion` 默认情况下。

## 项目结构```
byte-vision-mcp/
├── llamacpp/ # LLama.cpp binaries and installation guide
├── logs/ # Application and model logs
├── models/ # GGUF model files
├── prompt-cache/ # Cached prompts for performance
├── main.go # Main MCP server implementation
├── model.go # Model execution logic
├── types.go # Configuration structures
├── byte-vision-cfg.env # Your configuration (create from example)
└── example-byte-vision-cfg.env # Example configuration

配置

该文件控制服务器的所有方面: byte-vision-cfg.env

应用程序设置

  • :日志文件目录 AppLogPath
  • :日志文件名 AppLogFileName
  • :服务器端口(默认 :8080) HttpPort
  • :MCP端点路径(默认)EndPoint``/mcp-completion
  • :请求超时(默认值 300) TimeOutSeconds

LLama.cpp设置

  • :llama cli可执行文件的路径 LLamaCliPath
  • :GGUF模型文件的路径 ModelFullPathVal
  • :上下文窗口大小 CtxSizeVal
  • :要卸载到GPU的层数 GPULayersVal
  • :发电温度 TemperatureVal
  • :要生成的最大令牌数 PredictVal
  • 还有更多LLama.cpp参数。..

用法

MCP工具: generate_completion

服务器公开了一个MCP工具,该工具接受基本和高级参数,用于微调LLama.cpp
执行。

基本用法```json

Input:
{
"prompt": "Write a short story about a robot learning to paint"
}
Output:
{
"content": [
{
"type": "text",
"text": "Generated completion text..."
}
]
}


#### 参数的高级用法

**完整参数输入:**```json
{
"prompt": "Explain quantum computing in simple terms",
"temperature": 0.7,
"predict": 500,
"top_k": 40,
"top_p": 0.9,
"ctx_size": 4096,
"threads": 8,
"gpu_layers": 35
}

可用参数

核心模型和性能参数
参数 类型 描述 示例 默认来源
model string 覆盖模型路径 "/path/to/model.gguf" ModelFullPathVal
threads int 用于生成的CPU线程 8 ThreadsVal
gpu_layers int GPU加速层 35 GPULayersVal
ctx_size int 上下文窗口大小 4096 CtxSizeVal
batch_size int 批处理大小 512 BatchCmdVal
发电控制参数
参数 类型 描述 范围 默认来源
predict int 要生成的令牌数 1-8192 PredictVal
temperature float 创造力/随机性控制 0.0-2.0 TemperatureVal
top_k int Top-K采样 1-100 TopKVal
top_p 浮子 Top-P(核)取样 0.0-1.0 TopPVal
repeat_penalty float 重复处罚 0.5-2.0 RepeatPenaltyVal
输入/输出参数
参数 类型 描述 示例 默认来源
prompt_file string 从文件加载提示 "/path/to/prompt.txt" PromptFileVal
log_file string 自定义日志文件路径 "/path/to/custom.log" ModelLogFileNameVal

参数使用示例

1.创意写作(高温)```json

{
"prompt": "Write a creative story about time travel",
"temperature": 1.2,
"top_p": 0.95,
"predict": 1000,
"repeat_penalty": 1.1
}


##### 2.技术文件(低温)```json
{
"prompt": "Explain the TCP/IP protocol stack",
"temperature": 0.3,
"top_k": 10,
"predict": 800,
"ctx_size": 8192
}
3.代码生成(平衡)```json

{
"prompt": "Write a Python function to sort a list",
"temperature": 0.6,
"top_k": 30,
"top_p": 0.8,
"predict": 400
}


##### 4.长上下文处理```json
{
"prompt": "Summarize this document...",
"ctx_size": 32768,
"gpu_layers": 40,
"batch_size": 1024,
"predict": 500
}
5.性能优化```json

{
"prompt": "Quick question about Go syntax",
"threads": 12,
"gpu_layers": 45,
"batch_size": 2048,
"predict": 200,
"temperature": 0.4
}


##### 6.使用外部提示文件```json
{
"prompt_file": "/path/to/complex_prompt.txt",
"temperature": 0.8,
"predict": 1500,
"log_file": "/path/to/custom_generation.log"
}

参数指南

温度设置```
  • 0.0-0.3: Highly deterministic, factual responses
  • 0.4-0.7: Balanced creativity and coherence
  • 0.8-1.2: Creative, varied responses
  • 1.3-2.0: Highly creative, potentially chaotic

##### 上下文大小指南```
- **2048-4096**: Short conversations, simple tasks
- **8192-16384**: Medium documents, complex reasoning
- **32768+**: Long documents, extensive context
GPU层优化```
  • 0: CPU-only processing
  • 25-35: Balanced CPU/GPU (8GB VRAM)
  • 40+: Full GPU acceleration (12GB+ VRAM)

##### 预测长度```
- **50-200**: Short answers, code snippets
- **300-800**: Medium explanations, documentation
- **1000+**: Long-form content, stories

性能注意事项

内存使用```json

{
"ctx_size": 4096, // Lower for limited RAM
"batch_size": 512, // Smaller batches for stability
"gpu_layers": 25 // Reduce if GPU memory limited
}


##### 速度优化```json
{
"threads": 8, // Match CPU cores
"gpu_layers": 45, // Maximize GPU usage
"batch_size": 2048, // Larger batches for throughput
"predict": 200 // Shorter for quick responses
}
质量优化```json

{
"temperature": 0.7, // Balanced creativity
"top_k": 40, // Diverse sampling
"top_p": 0.9, // Nucleus sampling
"repeat_penalty": 1.1, // Reduce repetition
"ctx_size": 8192 // Larger context for coherence
}


#### 错误处理

该工具为无效参数提供特定的错误消息:```json
{
"content": [
{
"type": "text",
"text": "Error: Invalid temperature value. Must be between 0.0 and 2.0"
}
]
}

默认行为

  • 所有参数都是可选的 除了 prompt
  • 环境配置 未指定参数时使用
  • 忽略零值 (例如。, temperature: 0 使用配置默认值)
  • 无效值 回退到配置默认值

集成示例

JavaScript/Node.js```javascript

const result = await mcpClient.callTool("generate_completion", {
prompt: "Explain async/await in JavaScript",
temperature: 0.5,
predict: 600,
top_k: 25
});
console.log(result.content[0].text);


##### python```python
response = mcp_client.call_tool("generate_completion", {
"prompt": "Write a Python class for a binary tree",
"temperature": 0.6,
"predict": 800,
"top_p": 0.8
})
print(response["content"][0]["text"])
curl(直接HTTP)```curl

curl -X POST http://localhost:8080/mcp-completion \
-H "Content-Type: application/json" \
-d '{
"prompt": "Explain Docker containers",
"temperature": 0.4,
"predict": 500,
"ctx_size": 4096
}'
```

这个全面的参数系统允许对LLama.cpp行为进行细粒度控制,同时保持向后
兼容性和易用性。

GPU加速

NVIDIA GPU(CUDA)

  • 下载启用CUDA的LLama.cpp二进制文件
  • 集 GPULayersVal=33 (或根据GPU内存进行调整)
  • 集 MainGPUVal=0 (或您偏好的GPU索引)

AMD GPU(仅限ROCm-Linux)

  • 下载启用ROCm的LLama.cpp二进制文件
  • 配置类似于CUDA设置

苹果硅(金属-macOS)

  • 内置金属支架
  • 无需额外配置

日志记录

日志同时写入控制台和文件:

  • 应用程序日志: logs/byte-vision-mcp.log
  • 模型日志: logs/[model-name].log
  • 可配置的日志级别和详细程度

有关日志管理的详细信息,请参阅。 /logs/README.md

故障排除

常见问题

  1. “找不到llama cli”
  • 检查您的文件LLamaCliPath``.env
  • 确保二进制文件具有执行权限
  1. “找不到模型文件”
  • 验证点是否有效 .gguf 文件 ModelFullPathVal
  • 检查文件权限
  1. 内存不足错误
  • 减少 CtxSizeVal
  • 使用较小的型号
  • GPU卸载增加 GPULayersVal
  1. 缓慢的一代
  • 启用GPU加速
  • 增加 GPULayersVal
  • 使用量化模型(Q4、Q5、Q8)
  1. 服务器无法启动
  • 检查端口是否已在使用中
  • 验证配置中的所有路径是否存在
  • 检查日志以获取详细的错误消息

发展

从源头构建

去模整洁
go build-o字节视觉mcp

运行测试

去测试。/...

依赖项

    • 环境文件加载 github.com/joho/godotenv
    • MCP协议实现 github.com/metoro-io/mcp-golang

贡献

  1. 分叉存储库
  2. 创建要素分支
  3. 进行更改
  4. 如果适用,添加测试
  5. 提交拉取请求

许可证

该项目根据麻省理工学院许可证条款获得许可。

支持

  • 检查每个子目录中的各个README文件,了解具体的设置说明
  • 查看日志以获取详细的错误信息
  • 确保配置中的所有路径都是绝对且可访问的

作者 凯文·布里森

电子邮件: kbrisso@gmail.com

领英: 凯文·布里森

项目链接: https://github.com/kbrisso/byte-vision-mcp

常见问题

6 问
答案由本站依据条目字段整理,不引用上游原文
Byte Vision MCP 怎么安装?

资料没有给出安装命令,请到官方仓库或文档按说明接入;这类条目多数是生态应用,或尚未发布可安装包。

Byte Vision MCP 怎么在 Claude Desktop、Claude 里配置?

它的传输方式未标注,在客户端的 MCP 配置里填好启动命令和参数,保存后完全退出客户端再打开,配置才会生效。

Byte Vision MCP 收费吗?

本站不代收费用,也没有标注具体价格。是否收费取决于服务本身和背后的接口额度,正式使用前按官方说明确认。

Byte Vision MCP 需要 API Key 吗?

资料标注为无需认证,装好就能连;如果实际调用时报鉴权错误,按官方文档补上凭据。

Byte Vision MCP 支持哪些客户端?

资料标注支持 Claude Desktop、Claude;其他客户端只要能配置 MCP Server,也能用同样的命令或地址接入。

Byte Vision MCP 能提供哪些能力?

资料显示能力标签包括 本地AI、Go、Claude、隐私保护。具体工具清单以官方文档为准。

热门专题

按标签挑服务器
全部专题 →

服务器信息以作者仓库与官方文档为准;分类、传输方式与鉴权方式的中文说明为中文整理,最近核验 2026-05-17。