Vercel AI Gateway

💰 价格与方案

🔧 API 与开发者体验

• API 风格: OpenAI 兼容的 /v1/chat/completions + 原生 Anthropic + OpenResponses — Vercel AI SDK 透明地通过网关路由；现有 OpenAI/Anthropic 代码库无需迁移 SDK。
• Base URL: https://ai-gateway.vercel.sh/v1（单一统一端点）— 所有支持的 provider/model 可通过同一 URL 经 `model` 参数访问。
• SDK 兼容性: AI SDK v5/v6（TypeScript 原生，Next.js + Vercel 函数可直接替换）。也兼容原始 OpenAI Python/Node SDK，只需替换 base_url + api_key。
• 模型选择: 200+ 模型来自 OpenAI、Anthropic、Google、xAI、Mistral、Cohere、Groq，加上嵌入、重排序、图像+视频（Beta）。通过 `provider/model` 字符串切换模型无需改代码。
• 流式与函数调用: 每个模型都支持 SSE token 流；OpenAI/Anthropic schema 的原生工具调用透传；上游 provider 支持的位置支持结构化输出。
• 可观测性与成本归因: 内置 Vercel 控制台 — 每请求 token 数、延迟、美元成本、模型/provider 拆分、错误率。按 API Key 与按用户的成本归因用于团队计费。
• 回退与路由: 代码定义的回退链（如主 OpenAI → 限流时回退 Anthropic）；provider 白名单与零数据留存（ZDR）标志用于受监管负载。

🔀 统一 Provider 路由

Vercel AI Gateway 的核心产品特性是统一 provider 路由 — 一个 base_url 扇出到 OpenAI、Anthropic、Google、xAI、Mistral、Cohere、Groq 等 200+ 模型，无论上游 provider 如何，OpenAI SDK 调用签名一致。对 Next.js / Vercel 部署，这把多 provider 集成折叠为一行代码（AI SDK 的 `streamText({ model: 'anthropic/claude-sonnet-4' })`），Vercel 处理凭据隔离、重试逻辑与每次调用的可观测性。 实际效果显著：此前需要为每个 provider 维护独立 SDK 客户端、独立 API Key、独立限流处理、独立可观测性流水线的团队，现在可以通过网关路由所有请求，仅支付上游 provider 的官价（零加价）。取舍是绑定 Vercel — 非 Vercel 部署会失去与部署配额捆绑以及统一控制台的优势，尽管底层 OpenAI 兼容端点在任何地方都可用。

🌐 中国访问与延迟

Vercel AI Gateway（ai-gateway.vercel.sh）托管在 Vercel 的全球边缘网络，但中国大陆访问受限 — 中国 IP 通常在网络边缘被屏蔽，类似于 api.vercel.com 本身。从美国/欧洲客户端访问，网关延迟在 100-300ms 首 token 流式响应，与同区域直接调用 OpenAI/Anthropic 相当。 网关在 provider 上游调用之上增加了一层薄路由（通常 <50ms 开销），因此端到端延迟约等于（网关边缘延迟）+（上游 provider 延迟）。对面向中国用户的服务生产负载，标准方案是通过非中国区域的 Vercel 可部署代理转发，或对中国流量回退到国内 provider（百炼、DeepSeek、智谱）、对全球流量使用 Vercel Gateway。Vercel 目前不为网关提供中国专用边缘节点。