完整捕获
捕获请求体与响应体,并以可视化流程的方式呈现调用的输入输出内容,方便逐次核对。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
ManagePrompt 是一款面向 AI 应用开发者的本地 LLM 调用调试工具,在开发阶段捕获每一次 LLM API 调用,将请求体、响应体、token 用量、成本估算和延迟展示在一个本地 Web UI 中。它支持流式与非流式调用,通过 AI SDK Middleware 或 capture() 两种方式接入,约两行代码即可使用,并兼容 OpenAI、Anthropic、Google、Mistral 等任意 LLM API,数据按项目存放在本地 SQLite 数据库中,无需额外配置。
ManagePrompt 是一款面向开发者的本地 LLM 调用调试工具,聚焦于开发阶段每一次 LLM API 调用的记录与可视化。它把请求体和响应体、token 用量、成本估算和延迟集中在一个本地 Web UI 里呈现,帮助开发者在调试 AI 应用时看清每次调用到底发生了什么。
产品提供两种接入方式:一是 AI SDK Middleware,通过 wrapLanguageModel 包装模型并挂载 devToolsMiddleware;二是 capture() 包装函数,把调用逻辑包在回调里即可。
服务端部分用于运行本地 Web UI,可通过 Homebrew 或 Go 安装;npm 包部分用于从你的应用中捕获 LLM 调用。数据按项目目录存放在各自的 SQLite 数据库中,实时更新由 WebSocket 驱动。
捕获请求体与响应体,并以可视化流程的方式呈现调用的输入输出内容,方便逐次核对。
对每一次调用分别记录输入、输出、缓存读取与缓存写入的 token 数量。
基于 models.dev 的定价数据,实时计算每次调用产生的费用。
自动捕获流式与非流式两类调用,无需针对流式响应单独处理。
由 WebSocket 驱动的实时更新,调用发生时界面即时刷新。
按项目目录各自维护一个 SQLite 数据库,零配置即可使用。
提供 AI SDK Middleware 与 capture() 两种方式,约两行代码即可接入现有调用链路。
适配 OpenAI、Anthropic、Google、Mistral 等任意 LLM API。
需要逐次查看请求与响应内容、定位调用问题的人,可在本地界面直接核对每次调用。
借助每次调用的输入输出与缓存 token 统计及费用估算,观察开销来自哪些调用。
同时使用 OpenAI、Anthropic、Google、Mistral 等多家 API,需要统一查看调用记录。
该工具定位为开发阶段的本地调试,官网未说明是否适用于线上运行环境的监控。
有两种方式。一是 AI SDK Middleware:先执行 pnpm add manageprompt,然后用 wrapLanguageModel 包装模型并挂载 devToolsMiddleware。二是 capture():把调用逻辑包进回调,例如把 model 与 messages 传入 capture,并在回调里执行 openai.chat.completions.create(input)。约两行代码即可开始。
官方说明它兼容任意 LLM API,包括 OpenAI、Anthropic、Google、Mistral 等;示例代码里使用的是 gpt-4o 和 gpt-4o-mini。只要你的调用经过这两种接入方式之一,就会进入捕获范围。
每次调用会记录请求体与响应体(带可视化流程)、输入/输出/缓存读取/缓存写入的 token 数量、基于 models.dev 定价数据实时计算的成本估算,以及延迟。流式和非流式调用都会被自动捕获。
按项目目录各自使用一个 SQLite 数据库存放,零配置即可使用。这意味着不同项目的调用记录彼此独立,不需要额外的数据库服务。
服务端用于运行本地 Web UI,可通过 Homebrew(brew install techulus/tap/manageprompt)或 Go(go install github.com/techulus/manage-prompt/cmd/manageprompt@latest)安装;npm 包(pnpm add manageprompt)用于从你的应用中捕获 LLM 调用。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| ManagePrompt本工具 | 4.0 | 需询价 | 完整捕获;Token 追踪;成本估算;流式捕获 | Web / API |
| Grid.ai | — | 未标价 | 一个通过抽象基础设施来简化 AI 模型开发和部署的平台 | — |
| PromptMage | — | 未标价 | 简化 LLM 应用开发的 Python 框架,具备提示管理和版本控制功能 | — |
| Formula Generator | — | 未标价 | AI Prompts 网站通过智能工具简化 Excel 和 Google Sheets 公式生成, | Web |
| Defang | — | Starter 免费,Pro $49 /mo,Enterprise $499 / | Defang 通过 AI 简化云应用的开发、部署和调试 | Web / CLI / VS Code / Cursor / Windsurf |
| Qodex.ai | — | 未标价 | Qodex.ai 使用 AI 自动化 API 测试和安全性,简化流程,提供无代码解决方案 | — |