私钥不外泄
用军事级加密保存 LLM API 私钥,客户端只携带登录用户的 JWT 发起请求,应用打包分发时不再夹带任何私钥,从根上避免密钥泄露带来的高额 API 账单。
文档 ↗拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
Backmesh 是一个开源、经过充分测试的后端,用军事级加密保护 LLM API 私钥,并通过 API Gatekeeper 让你从移动端或网页端安全调用 LLM 接口。接入只需两处改动:把 LLM API 地址换成 Backmesh Gatekeeper 地址,把私钥换成登录用户的 JWT。它自带按用户限流、敏感资源访问控制和 LLM 用量分析,支持 OpenAI、Gemini、Anthropic、Cloudflare Workers AI 以及 Supabase、Firebase 认证。官方公开价 Starter 为 $10/月,含 500k 请求与 50k MAU;也可自托管到 Cloudflare 账户。短板在于自托管模式下 LLM API 分析只在 SaaS 面板展示,且分析能力仍在按用户反馈扩展。
Backmesh 是一个面向 AI 应用的开源后端,定位是帮你把 LLM API 私钥从客户端里彻底挪走。它用军事级加密保护私钥,并提供一个 API Gatekeeper 作为中间层,让移动端或网页端在不上报私钥的前提下直接调用 LLM 接口。目标用户是开发 AI 应用的工程师与团队。
接入只需要在应用里改两处:把原来的 LLM API 地址替换成 Backmesh Gatekeeper 的地址,把 LLM 私钥替换成当前已认证用户的 JWT。之后请求由 JWT 验证、按用户限流、按资源归属做访问控制。目前支持 OpenAI、Gemini、Anthropic、Cloudflare Workers AI,认证侧支持 Supabase 与 Firebase。
官方提供两种部署形态:托管 SaaS 有 Starter、Pro、Enterprise 三档,Starter 为 $10/月;开源版可以自托管到自己的 Cloudflare 账户,走 Cloudflare 的免费额度。不同角色的用法也不一样——个人开发者用 Starter 起步验证;团队用 Pro 的 2M 包含请求和按量计费撑住增长;有严格数据要求的一方则自托管,代价是 LLM API 分析仅在 SaaS 面板中可见。
用军事级加密保存 LLM API 私钥,客户端只携带登录用户的 JWT 发起请求,应用打包分发时不再夹带任何私钥,从根上避免密钥泄露带来的高额 API 账单。
文档 ↗把 LLM API 地址换成 Backmesh Gatekeeper 地址、把 LLM 私钥换成已认证用户的 JWT,即可继续用任意 LLM SDK 直接调用,无需重构现有调用链。
文档 ↗请求用来自应用认证服务商的 JWT 校验,只有你自己的用户能通过 Backmesh 访问 LLM API,未登录或伪造身份的请求在 Gatekeeper 处就被拦下。
官方说明 ↗支持按用户配置速率上限,例如限制每个用户每小时最多 5 次 OpenAI API 调用,用来挡住单个账号刷量导致的成本失控。
官方说明 ↗Files、Threads 这类敏感 API 资源按创建者归属做保护,只有创建它们的用户才能继续访问,避免跨用户读到别人的会话与文件。
官方说明 ↗自动为 LLM 请求埋点,无需引入额外包,就能看到各模型上的错误率、成本与响应时间,用于定位使用模式、压成本和改体验。
文档 ↗私钥侧支持 OpenAI、Gemini、Anthropic、Cloudflare Workers AI;认证侧支持 Supabase 与 Firebase。其他服务商可以在 Discord 留言申请支持。
文档 ↗源码开放,可部署到自己的 Cloudflare 账户,Cloudflare 本身带免费额度;托管 SaaS 与自托管两种形态由用户自己选。
文档 ↗Backmesh 解决的是一个很具体的问题:客户端里藏着 LLM 私钥。如果你的应用已经上线、用户在真金白银地调模型,它把私钥挪到 Gatekeeper 后面的做法,比自己在服务端手搓一层代理更省事——两个改动点、JWT 校验、限流、资源访问控制都是现成的。托管版 Starter $10/月含 500k 请求和 50k MAU,试用 15 天,验证成本低。要注意的是:LLM API 分析只在 SaaS 面板里展示,选自托管就只拿到防护、拿不到分析;分析能力本身也还在按用户反馈扩展,覆盖度需要自己核对。
应用直接把 LLM 调用放在移动端或浏览器里,私钥原本打包在客户端,Backmesh 是改动最小的替换路径,只需换地址和换密钥。
认证已经跑在 Supabase 或 Firebase 上,直接复用现有 JWT,不用额外搭身份体系,也不用在 LLM 服务商侧再管一套账号。
按用户限流与资源访问控制现成可用,配上错误率、成本、响应时间的用量分析,能定位到具体哪个用户、哪个模型在烧钱。
开源版可部署到自己的 Cloudflare 账户,数据不出自家环境;但要接受 LLM API 分析只在 SaaS 面板展示,自托管拿不到这块。
私钥侧目前明确支持 OpenAI、Gemini、Anthropic、Cloudflare Workers AI,不在此列的服务商需要先去 Discord 确认是否已支持。
提供 15 天免费试用,之后 Starter 为 $10/月,包含 500k 请求与 50k MAU,且不限 LLM API Gatekeeper 数量与用户总数。Pro 包含 2M 请求与 100k MAU,超出部分请求按 $1/1M、MAU 按 $0.003 计费。Enterprise 需联系官方询价。因为是开源项目,自托管也始终是一个可选方案。
文档给出的改动是两处:把原来的 LLM API 地址替换成 Backmesh Gatekeeper 的地址,把 LLM 私钥替换成当前已认证用户的 JWT。之后就继续用你原来的 LLM SDK 调用,不需要改成 Backmesh 专有的接口。文档里附了 Flutter 加 Firebase 加 Gemini、JavaScript 加 Supabase 加 OpenAI 两条教程可对照。
私钥侧目前支持 OpenAI、Gemini、Anthropic 和 Cloudflare Workers AI;认证侧支持 Supabase 与 Firebase。在 Discord 上收集未能覆盖的服务商请求,如果你的组合不在此列,可以去留言看是否已在排期。
私钥由 Backmesh 用军事级加密保存,不再出现在客户端包里。每次请求带的是当前登录用户的 JWT,由 Gatekeeper 校验身份,只有你自己的用户能通过它访问 LLM API。此外还能按用户配置速率上限,例如每个用户每小时不超过 5 次 OpenAI 调用,避免单个账号被刷导致 API 账单失控。
两者都能拿到私钥防护、限流和资源访问控制。差别在分析与成本:自托管是把 Backmesh 部署到自己的 Cloudflare 账户,走 Cloudflare 的免费额度,但 LLM API 分析只在官方 SaaS 面板中展示;托管版按 Starter、Pro、Enterprise 分档计费,包含相应的请求与 MAU 额度。
Backmesh 会自动为 LLM 请求埋点,不需要在应用里额外引入 SDK,就能查看跨用户的调用情况,例如各模型上的错误率、成本和响应时间,用于识别使用模式、压缩成本。分析项仍在根据 Discord 上用户反馈的 API 端点与维度持续扩展。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| Backmesh本工具 | 3.9 | 15 天试用,Starter $10/月,Pro / Enterprise 需联系 | 私钥不外泄;两处改动接入;JWT 身份验证;按用户限流 | Web / API |
| dimBase | — | 未标价 | dimBase:快速便捷地部署自定义 LLM API | — |
| SapienAPI | — | 未标价 | SapienAPI:基于 AI 的网站搜索,使用 LLMs 和实时网页数据 | — |
| API Fabric | — | 未标价 | AI 应用生成器,通过提示创建 API 和前端 | — |
| CNTXT | — | 未标价 | 托管 PaaS,用于建立和部署边缘上的 AI 应用,具备低代码工具 | — |
| Helicone AI | — | Hobby 免费,Pro $79/月,Team $799/月,Enterpris | 用于监控、调试和改善 AI 应用的开源 LLM 可观察性平台 | Web / API |