自适应路由
每条提示词先评分,再路由到前沿模型或 OSS 模型。官网标称路由准确率 99%、路由延迟低于 10ms,并支持自动故障切换,可省 40% 以上推理成本。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
OrcaRouter 是一款 AI API 路由网关,用一个 base_url 接入 200+ 模型,根据每条提示词的难度自动分发给前沿模型或开源模型。官方标称 pay-as-you-go 与订阅均零加价、默认不记录提示词、推理成本可省 40% 以上、路由准确率 99%、路由延迟低于 10ms。默认不保存提示词,可签零留存协议;支持数据伪装、区域声明与合规映射。不足是官网未公开订阅档位与价格区间,私有路由仅部分模型可用。
OrcaRouter 是一个 API 网关产品,官网自称「One gateway. Every model.」,把一个 API key 和统一端点作为入口,接入 200+ 个模型。它把每条提示词先做难度评分,再决定路由到前沿模型还是开源模型,并声称加了 0 美元加价。定位是给需要频繁调用多家模型、又希望控制成本与数据合规的团队,而不是给终端消费者直接用的聊天应用。
使用方式是替换 base_url。官网示例把 OpenAI Python SDK 的 base_url 改为 https://api.orcarouter.ai/v1,api_key 填 ORCAROUTER_API_KEY,model 字段填 orcarouter/auto,由网关负责评分和路由。同时列出 Claude Code、Codex、OpenClaw、Hermes 等集成方式,说明它面向的是开发者已有的编程与 Agent 工作流,而不是要求开发者重写调用逻辑。
在能力分块上,官网把它分为三层:Route(评分并分发)、Observe(按需记录、实时花费与逐条回执)、Manage(提示词版本管理与缓存复用,不修改代码)。隐私与安全侧则分为「你的数据」和「你的 Agent」两组:数据侧有 Data Cloaking、ZDR、PQC、Data Residency、TEE,Agent 侧有 Guardrails、Agent Firewall、Compliance Packs,另有一个人工审批队列。开发者接入时改一行 base_url 即可,团队侧则可以把合规策略先观察真实流量再开启强制。
每条提示词先评分,再路由到前沿模型或 OSS 模型。官网标称路由准确率 99%、路由延迟低于 10ms,并支持自动故障切换,可省 40% 以上推理成本。
按量付费与订阅均 0% token 加价,模型价格按提供方自身价格列出,例如 grok/grok-4.3 为 $1.25 输入 / $2.50 输出每百万 token。
200+ 模型通过一个端点接入,包括来自 OpenAI Direct、Anthropic Direct 等来源的模型,覆盖 1M、500K、66K 等不同上下文长度,部分模型标注私有路由。
默认不记录提示词,除非用户主动开启日志开关,0B prompts stored by default。可签署零留存协议关闭留存;保留的日志用混合 ML-KEM 加密,加密实现 SCUTTLE 开源。
Data Cloaking 在请求到达模型前把姓名、邮箱、卡号替换为占位符,回答里再还原。Data Residency 支持声明 US、EU、UK、Asia-Pacific 或 China,合规报告按该区域打标。
PII、密钥、越狱与提示词注入在计费前被拦截,模式规则免费,AI-judge 规则只对自身检查计费。Agent Firewall 对每次工具与 MCP 调用做放行、人工复核或阻断。
Compliance Packs 映射到 32 个框架,每个法规对应一条策略。支持先在真实流量上观察,再开启强制拦截,并有人工审批队列配合。
Observe 层提供按需日志、实时花费与逐条提示词回执;Manage 层支持提示词版本管理与缓存调用复用,缓存感知的自适应路由可节省 40% 以上成本。
需要同时接 OpenAI、Anthropic、Grok 等多家模型,又不想维护多套 key 与计费逻辑,改一行 base_url 即可接入 200+ 模型。
已用 Claude Code、Codex、OpenClaw、Hermes 的工作流,希望把模型调用统一到网关并控制成本,官网标称可省 40% 以上推理成本。
需要区域声明、零留存协议、数据伪装与合规框架映射的场景,官网提供 US、EU、UK、Asia-Pacific、China 区域声明与 32 个框架的策略包。
模型表显示部分模型标注有私有路由,另一些则明确标注无私有路由,对全部模型都要求 TEE 私有推理的场景需要先逐条确认。
产品以 API 端点和 base_url 替换方式提供,官网未提供面向普通用户的聊天界面,非开发者很难直接上手。
pay-as-you-go 与订阅均为 0% token 加价,模型按提供方自身价格列出,例如 grok/grok-4.3 为 $1.25 输入 / $2.50 输出每百万 token,Anthropic: Claude Opus 5 为 $5.00 输入 / $25.00 输出每百万 token。订阅档位与价格区间官网未公开,具体以官方页面为准。
把 model 字段设为 orcarouter/auto 后,网关会对每条提示词做难度评分,再决定路由到前沿模型还是开源模型,官网标称路由准确率 99%、路由延迟低于 10ms,并支持自动故障切换。
默认不保存, 0B prompts stored by default,日志开关默认关闭,只有主动打开才会记录。需要更严格保证时可以签署零留存协议把留存锁定关闭;选择保留的日志会用混合 ML-KEM 加密,加密实现 SCUTTLE 已开源。
在 Data Residency 里把 China 列为可声明的区域之一,合规报告会按该区域打标。但未说明国内网络访问情况与延迟表现。
模型表对每个模型标注 Private route 一列,有的写明私有路由可用,有的标注 No private route。私有推理基于 Attested enclaves,每条回答附带证明。使用前需要按模型逐条确认是否支持私有路由。
如果用的是 OpenAI SDK,只需把 base_url 换成 https://api.orcarouter.ai/v1、api_key 换成 ORCAROUTER_API_KEY,并把 model 设为 orcarouter/auto。还列出 Claude Code、Codex、OpenClaw、Hermes 等已支持的集成方式。
模式规则(pattern rules)免费,AI-judge 规则只对自身检查计费。PII、密钥、越狱与提示词注入会在模型看到之前被拦截,拦截发生在计费前。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| OrcaRouter本工具 | 4.5 | 零 token 加价,按量付费与订阅均不加价 | 自适应路由;零加价计费;模型覆盖;隐私默认关闭日志 | API |
| LLM Gateway | — | 按量付费,充值时收 5% 平台费;BYOK 免平台费;企业按需定价 | 统一 API 路由、管理和分析 LLM 请求 | Web / API |
| Manifest | — | 未标价 | 专为 OpenClaw 打造的开源 LLM 路由工具,通过智能模型路由最高可节省 70% | — |
| Flatkey AI | — | 按量计费,失败调用收费 $0 | 用于多模型访问、路由和成本控制的统一 AI API 网关 | Web / API |
| EMix.ai: Lower-Cost AI APIs for Multimodal Development | — | 按用量计费,图像、视频、LLM 均低于官方价,失败任务不计费 | 统一的低成本 AI API 平台 | API / Web |
| Crazyrouter | — | 未标价 | 这是一款企业级、高性价比的 AI API 网关,提供统一的 API 密钥,通过兼容 Op | — |