双 SDK 兼容
一个 API key 同时支持 OpenAI 与 Anthropic 两种 SDK 调用方式，已有的客户端代码基本不用改就能切过来。
官方说明 ↗
价格Pay as you go $5 起充，Coding plan 每月 $10 起
平台API / Web
归类AI 编程
收录2024-01-01
复核2025-01-01
编辑评分
4.4 / 5
★★★★☆
RunInfra编辑总结
RunInfra 是 Y Combinator 支持的模型 API 托管平台，把开源模型（如 Nemotron 3.5 Lightning 30B、Qwen3.8 27B、Ornith 1.5 35B、GLM 5.3 Flash、DeepSeek V4.1 Flash）做成一个 API key 即可调用的服务，兼容 OpenAI 与 Anthropic 的 SDK。它最硬的卖点是缓存：Nemotron 3.5 Lightning 30B 缓存命中率 92.1%、输出 540.9 tok/s，缓存输入价 $0.01/1M tokens，有效输入成本从标价 $0.05 降到 $0.014/1M。短板也很直接：缓存命中是 best effort，不保证每次命中；SOC 2 Type II 仅 Enterprise 提供，Pay as you go 无契约 SLA。
RunInfra是什么？
RunInfra 是一个把开源大模型托管成 API 的推理平台，由 Y Combinator 支持（官网首页标注 Backed by Y Combinator）。它的定位是给 Agent 类应用提供响应快、缓存上下文便宜的模型调用入口，一个 API key 同时兼容 OpenAI 和 Anthropic 的 SDK，开发者不必改客户端就能接。
平台目前上架 5 个模型，其中 3 个支持图片输入。计费按 token 走，缓存输入单独定价：Nemotron 3.5 Lightning 30B 输入 $0.05、缓存输入 $0.01、输出 $0.15 每 1M tokens，缓存命中率 92.1%；Qwen3.8 27B 与 Ornith 1.5 35B 输入 $0.10、缓存输入 $0.01、输出 $0.40，命中率分别为 95.7% 与 94.9%。
使用方式按角色分：普通开发者用 Pay as you go，最低 $5 起充、注册送 $1 试用额度；用 Claude Code、Codex、OpenCode 等命令行 Agent 的人可选用 Coding plan，每月 $10 起、额度每 5 小时与每周重置；企业走 Enterprise，做专属基础设施、合规与定制用量。
RunInfra核心功能
会话亲和路由
同一 session 的重复调用会被路由到持有其上下文的那台副本上，重复请求无需额外参数提示即可命中缓存。
官方说明 ↗缓存计价
缓存命中与未命中分开计价，命中按 cached 费率计费，并会出现在用量页上，便于核算实际成本。
官方说明 ↗模型库
目前提供 5 个模型，其中 3 个支持图片输入，均具备 Tool calling、JSON mode 与 Streaming 能力。
官方说明 ↗Agent 配置引导
在编码 Agent 里粘贴一段提示词即可触发自动配置流程，涉及安装、改设置或花钱的操作会先给出方案等你确认。
官方说明 ↗实例额度与充值
Pay as you go 最低 $5 充值，余额一年有效；注册赠送 $1 用于测试 Model APIs，用量与账单在同一余额中结算。
官方说明 ↗编码套餐
Coding plan 面向 Claude Code、Codex、OpenCode 等编码 Agent，每月 $10 起，额度每 5 小时与每周各重置一次。
官方说明 ↗企业版能力
Enterprise 提供专属基础设施、预留容量、合规与定制条款，含 SOC 2 Type II 与最高 99.99% 的 SLA。
官方说明 ↗RunInfra值不值得用？
当你的应用大量重复发送同一段上下文（会话、系统提示、工作区文件）时，RunInfra 的会话亲和路由与缓存计价能实实在在压低成本——Nemotron 3.5 Lightning 30B 在 92.1% 命中率下有效输入价 $0.014/1M，是标价 $0.05 的三折不到，这对 Agent 类高频重复调用很划算。反过来，如果你的请求每次都是全新内容、缓存命中上不去，标价本身并不算便宜，官方也说明缓存命中是 best effort。另外 Pay as you go 无契约 SLA，需要 SOC 2 Type II 的场景得走 Enterprise。
建议选它的情况
- 调用模式高度重复的 Agent 应用，希望靠缓存命中压低输入成本
- 已经在用 OpenAI 或 Anthropic SDK，想换更便宜的开源模型而不改代码
- 使用 Claude Code、Codex、OpenCode 等编码 Agent，想按 $10/月起包月
- 需要私有基础设施、SOC 2 Type II 与 SLA 的企业场景
不建议选它的情况
- 每次请求内容都不同、缓存命中率上不去，省不到缓存的钱
- 必须按公开费率精确预估成本、不能接受缓存命中 best effort 的业务
- 需要大量自建模型或自定义微调，而不是直接调用托管模型 API
RunInfra使用建议
入门先把路子走对
- 先领 $1 试用额度在定价页开通 Pay as you go 即可拿到 $1 免费额度测试 Model APIs，不必先充值 $5。
- 用官方 Agent 提示词接入打开 agent-setup 文档，把页面上那段提示词原样粘进编码 Agent，它会读文档并一步步引导你完成配置。
- 先走一次签名确认Agent 生成的链接打开后输入验证码并点 Approve，只批准自己 Agent 刚给出的那串码。
- 花钱前先看方案如果账户里有 Coding plan，Agent 会先问走套餐还是 Pay as you go，并展示将改动什么、由谁付费，确认后再继续。
进阶省时间也省钱
- 显式传 session ID把同一会话的调用带上 session ID，重复请求更容易落到持有其上下文的副本上，提高缓存命中概率。
- 按命中率挑模型DeepSeek V4.1 Flash 命中率 99.7%、Qwen3.8 27B 95.7%，命中率越高有效输入价越接近 $0.01/1M，可据此选型。
- 流式请求里统计缓存 token在请求的流式用量里读取缓存 token 数，用量页展示的是计费后的数字，两者结合才能核对真实成本。
- 关注限时折扣窗口GLM 5.3 Flash 有 26% 折扣、DeepSeek V4.1 Flash 有 25% 折扣，均截止 2026-10-13 05:44 UTC，窗口内成本更低。
RunInfra适合谁用？
Agent 应用开发者
推荐反复发送同一段上下文的调用模式能吃到高缓存命中，Nemotron 3.5 Lightning 30B 在 92.1% 命中率下有效输入价 $0.014/1M，输入成本优势明显。
编码 Agent 用户
推荐Claude Code、Codex、OpenCode 用户可选每月 $10 起的 Coding plan，额度每 5 小时与每周重置，比按 token 计费更好预估支出。
需要合规的企业团队
有条件Pay as you go 不包含 SOC 2 Type II 且无契约 SLA，若合规审计要求这两项，需要走 Enterprise 定制方案。
请求内容每次全新的场景
不推荐缓存命中率上不去时只能按标价计费，且官方说明缓存命中是 best effort，不保证每次重复请求都能命中。
想要模型微调或自托管的团队
不推荐平台提供的是托管模型 API，做自定义训练或完全自控的推理栈不在其服务范围内。
RunInfra优点和缺点
优点
- 一个 API key 同时兼容 OpenAI 与 Anthropic SDK
- Nemotron 3.5 Lightning 30B 在 92.1% 命中率下有效输入价 $0.014/1M
- 会话亲和路由自动把重复调用导向持有上下文的副本
- Pay as you go $5 起充，注册另送 $1 测试额度
- Coding plan 每月 $10 起，额度每 5 小时与每周重置
缺点
- 缓存命中是 best effort，不保证重复请求一定命中
- Pay as you go 无契约 SLA，SOC 2 Type II 仅在 Enterprise 提供
- 官网未公开各模型具体的上下文长度与速率限制
- 缓存的计量方法需另查 runinfra.ai/methodology 页面
RunInfra常见问题
RunInfra 怎么收费？＋
分两种：Pay as you go 按 token 计费，最低 $5 起充，注册送 $1 测试额度，余额一年有效；Coding plan 面向 Claude Code、Codex、OpenCode 等编码 Agent，每月 $10 起，额度每 5 小时与每周重置。企业客户走定制报价。
有哪些模型可以用？＋
目前模型库共 5 个，其中 3 个支持图片输入。全部支持 Tool calling、JSON mode 与 Streaming，包括 Nemotron 3.5 Lightning 30B、Qwen3.8 27B、Ornith 1.5 35B、GLM 5.3 Flash 和 DeepSeek V4.1 Flash。
缓存能省多少钱？＋
Nemotron 3.5 Lightning 30B 标价输入 $0.05/1M，在该模型 92.1% 的缓存命中率下有效输入价为 $0.014/1M；Qwen3.8 27B 与 Ornith 1.5 35B 标价 $0.10/1M，在 95.7% 与 94.9% 的命中率下有效输入价分别为 $0.014 和 $0.015/1M。
缓存命中是保证的吗？＋
不是。官方说明缓存命中为 best effort，命中结果会出现在用量中并按 cached 费率计费。平台会通过会话亲和路由尽量把重复调用送到持有其上下文的副本上，但不承诺每次重复都能命中。
接入编码 Agent 麻烦吗？＋
不需要手动改配置。打开 agent-setup 文档把其中的提示词粘进 Agent，它会读取文档并逐步执行，包括打开链接、输入验证码、点 Approve，以及在花钱或改设置前先给你看方案。
企业版和自助版差在哪？＋
Pay as you go 是自助的、靠充值运行，也没有契约 SLA，支持为优先邮件。Enterprise 增加私有基础设施、预留容量、合规与定制条款，含 SOC 2 Type II 和最高 99.99% 的 SLA，配备专属 CSM 与私有 Slack 支持。
国内能正常用吗？＋
官网未说明国内可用性与地域限制。如果需要跨境访问或对延迟敏感，建议先领取 $1 试用额度实测调用质量再做决定。
Pay as you go 和租 GPU 相比如何？＋
平台提供了一份对比页，用来比较 GPU 适配、租用成本、闲置时间与 API 成本，可按自己的模型与流量规模核算后判断哪条路更省。
RunInfra竞品对比
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| RunInfra本工具 | 4.4 | Pay as you go $5 起充，Coding plan 每月 $10 起 | 双 SDK 兼容；会话亲和路由；缓存计价；模型库 | API / Web |
| Defapi | — | 积分制，起充 $5，无订阅，按模型实际用量扣费 | 顶级 AI 模型的统一 API 平台 | API / Web |
| Xiu.ai | — | 预付充值，按 token 用量计费，费率随模型与服务层级而定 | 利用 AI 模型优化和增强工作流程，提升效率与准确性 | Web / API |
| HTTPie AI | — | 终端版为 open-source | HTTPie AI 提供创新的 API 交互方式，简化开发者的工作流程 | Web / 桌面客户端 / 终端 |
| NovaSky | — | 未标价 | NovaSky 是一个专注于代码生成和推理模型优化的人工智能技术平台 | — |
| NaN | — | nan_member 与 glm 5.3 premium 两档，后者 200€ | 为通过兼容 OpenAI 的 API 运行开源 AI 模型提供共享 GPU 基础设施和开 | API / Web |
