单接口多模型
可通过一个 API 调用 200+ 模型，覆盖 LLM、IMAGE、AUDIO、VIDEO、VISION 五类模态，全部为 serverless 形态，调用方无需管理基础设施。
Omniinfer
AI TOOL PROFILE工具资料一个 API 跑 200+ 模型的 AI 原生云平台，另含 Agent 沙箱与 GPU 云。
官网地址 https://omniinfer.io
价格按 token 计费，模型费率从 $0.03 /Mt 起，批量推理有 50% 折扣
平台API / Web
归类AI 绘画生图
收录2024-01-01
复核2025-01-01
编辑评分
4.2 / 5
★★★★☆
Omniinfer编辑总结
Omniinfer 把自己定位为面向开发者与 Agent 的 AI 原生云，把模型 API、Agent Sandbox、GPU Cloud 三块放在同一平台。单接口可调用 200+ 模型，覆盖文本、图像、音频、视频，延迟标称 200ms、可用性 99.5%，并按 token 计费。定价页列出了大量模型的输入输出费率，例如 DeepSeek OCR 2 输入输出均为 $0.03 /Mt，Gemma 4 31B 输入 $0.14 /Mt、输出 $0.4 /Mt；批量推理还有输入输出 token 五折的说明。GPU 侧提供 8× NVIDIA H200、141 GB HBM3e 等机型。短板是站点通篇没写免费额度与退款政策，非文本模态的可用模型与免费试用量都未说明。
Omniinfer是什么？
Omniinfer 是一个面向开发者与 AI Agent 的云平台，官网自述为「The AI-Native Cloud for Builders and Agents」，把模型 API、Agent Sandbox 和 GPU Cloud 三类能力放在同一个平台上，目标用户是需要批量调用模型或部署自有模型的技术团队。
可确认的现状包括：模型 API 侧提供 200+ 模型，覆盖 LLM、IMAGE、AUDIO、VIDEO、VISION 五类，标称 200ms latency 与 99.5% uptime，按 token 计费而非按小时。定价页按厂商分组陈列模型，例如 DeepSeek 组有 V4.1 Flash、V4 Pro 0813、V4 Flash 0731、V4 Pro、OCR 2、R1 0528、R1 Turbo，Z.ai 组有 GLM 5.3 Flash、GLM 5.3、GLM 5.2、GLM 5.1、GLM 5 等，每条都标出上下文长度与输入输出费率。GPU Cloud 侧列出 8× NVIDIA H200（141 GB HBM3e per GPU、1.128 TB total、6/6 nodes、NVLink 4th Gen · 900 GB/s、400 Gb/s RDMA）与 8× NVIDIA H100（80 GB HBM3 per GPU、640 GB total）等集群。
使用方式上，普通用户主要通过单一 API 端点调用模型，无需自建基础设施；开发者可用私有端点（BASE_URL: API.NOVITA.AI/YOUR-ENDPOINT）获得隔离资源，也可在 Agent Sandbox 中运行带工具调用与代码执行的 Agent 任务，标称 startup ~200ms、按秒计费；需要独占算力的团队则可选择 GPU Cloud 的专属物理集群做大规模推理、训练与企业部署。
Omniinfer核心功能
按 token 计费
费用按 token 而非按小时结算。定价页逐条列出输入与输出费率，例如 DeepSeek OCR 2 输入输出均为 $0.03 /Mt，Gemma 4 31B 输入 $0.14 /Mt、输出 $0.4 /Mt。
批量推理折扣
定价页顶部说明批量推理对支持的模型提供输入与输出 token 的五折（50% discount）introductory 优惠，需要按指引了解适用范围。
私有端点
提供专属 BASE_URL（API.NOVITA.AI/YOUR-ENDPOINT），为私有端点、性能有保障、没有 noisy neighbors，用隔离资源换取任意吞吐下的一致性延迟。
Agent 沙箱
Agent Sandbox 是专为 Agent 准备的隔离运行时，可执行代码、调用工具与模型。官网给出示例任务链：读代码库、定位空指针、写补丁、跑 pytest，startup ~200ms、按秒计费。
GPU 云实例
提供可完全控制的专属 GPU 机器，可在数秒内获得。机型包括 8× NVIDIA H200，141 GB HBM3e per GPU、合计 1.128 TB、6/6 nodes、NVLink 4th Gen · 900 GB/s。
无服务器 GPU 作业
提交作业后平台自动分配 GPU 资源，负载上升时扩容、结束后缩容到零。官网示例给出 duration 0.1s、cost $0.0001、idle time $0.00，只按执行量付费。
文档与 Markdown
站点为 Agent 提供了 llms.txt 完整文档索引，并在 Accept: text/markdown 或 .md URL 变体下提供 Markdown。
Omniinfer适合谁用？
调用多模态 API 的开发者
推荐需要在同一个接口下调文本、图像、音频、视频、视觉模型，且不想自己运维推理集群的团队，可以先用单接口方案验证成本。
跑 Agent 任务的团队
推荐Agent Sandbox 提供隔离运行时与工具调用、代码执行能力，官网示例的 startup ~200ms、按秒计费适合任务时长波动大的场景。
需要独占算力的团队
有条件GPU Cloud 提供 8× NVIDIA H200、8× NVIDIA H100 等专属物理机器，适合大规模推理、训练与企业部署，但属于重资产用法。
只看中文图像生成的低频用户
有条件定价页按厂商陈列的模型列表以文本模型为主，官网未列出图像模型的单独费率，低频生图用户需要先自行确认可用模型。
需要免费额度的个人尝鲜者
不推荐官网未公开任何免费额度、试用金或免费档位说明，付费以 token 与秒为单位结算，不适合零预算试用。
Omniinfer优点和缺点
优点
- 单接口覆盖 LLM、IMAGE、AUDIO、VIDEO、VISION 五类模态
- 官网标称 200+ models、200ms latency、99.5% uptime
- 按 token 计费，最低可见费率 $0.03 /Mt（DeepSeek OCR 2）
- 批量推理提供输入输出 token 五折优惠
缺点
- 无法零成本验证
- 定价页以文本模型为主，图像模型单独费率未列
- GPU 侧机型以 H100、H200 为主，入门算力选项未提及
Omniinfer关键指标
| 指标 | 数值 | 数据来源 |
|---|---|---|
| 可用模型数 | 200+ models | 官网首页 Model APIs 区块 |
| 延迟 | 200ms latency | 官网首页 Model APIs 区块 |
| 可用性 | 99.5% uptime | 官网首页 Model APIs 区块 |
| DeepSeek V4.1 Flash 费率 | 1M Context，Input $0.3 /Mt · Cache Read $0.006 /Mt，Output $1.2 /Mt | 定价页 DeepSeek 分组 |
| DeepSeek OCR 2 费率 | 8K Context，Input $0.03 /Mt，Output $0.03 /Mt | 定价页 DeepSeek 分组 |
| DeepSeek R1 Turbo 费率 | 63K Context，Input $0.7 /Mt，Output $2.5 /Mt | 定价页 DeepSeek 分组 |
| GLM 5.3 Flash 费率 | 1M Context，Input $0.15 /Mt · Cache Read $0.03 /Mt，Output $0.5 /Mt | 定价页 Z.ai 分组 |
| GLM 4.7 Flash 费率 | 195K Context，Input $0.07 /Mt · Cache Read $0.01 /Mt，Output $0.4 /Mt | 定价页 Z.ai 分组 |
| AutoGLM Phone 9B Multilingual 费率 | 64K Context，Input $0.035 /Mt，Output $0.138 /Mt | 定价页 Z.ai 分组 |
| 批量推理折扣 | 输入与输出 token 五折（50% discount）introductory 优惠 | 定价页顶部说明 |
| H200 机型配置 | 8× NVIDIA H200，141 GB HBM3e per GPU，1.128 TB total，6/6 Nodes，NVLink 4th Gen · 900 GB/s，400 Gb/s RDMA | 官网首页 GPU Cloud 区块 |
| H100 机型配置 | 8× NVIDIA H100，80 GB HBM3 per GPU，640 GB total，6/6 Nodes，NVLink 4th Gen · 900 GB/s，400 Gb/s RDMA | 官网首页 GPU Cloud 区块 |
| 无服务器 GPU 作业示例计费 | duration 0.1s，cost $0.0001，idle time $0.00 | 官网首页无服务器 GPU 区块 |
| Agent Sandbox 启动时间 | startup ~200ms，billing per second | 官网首页 Agent Sandbox 区块 |
Omniinfer常见问题
Omniinfer 多少钱，免费吗？＋
按 token 计费，没有免费档位的说明。定价页列出各家模型费率，例如 DeepSeek OCR 2 输入输出均为 $0.03 /Mt，Gemma 4 31B 输入 $0.14 /Mt、输出 $0.4 /Mt，DeepSeek V4.1 Flash 输入 $0.3 /Mt、输出 $1.2 /Mt。批量推理对支持的模型有输入与输出 token 五折的 introductory 优惠。GPU 作业按执行量计费，官网示例为 duration 0.1s、cost $0.0001。
它现在的主力能力是什么？＋
自述为面向开发者与 Agent 的 AI 原生云，三块能力是模型 API、Agent Sandbox 与 GPU Cloud。模型 API 提供 200+ 模型，覆盖 LLM、IMAGE、AUDIO、VIDEO、VISION，标称 200ms latency 与 99.5% uptime；Agent Sandbox 提供隔离运行时、startup ~200ms、按秒计费；GPU Cloud 提供 8× NVIDIA H200 等专属机器。
有图像生成模型吗，还是只能调文本？＋
的模型分类里明确包含 IMAGE 与 VISION 两类，所以图像相关能力是有的。但定价页按厂商陈列的模型清单（DeepSeek 组、Z.ai 的 GLM 组等）以文本与多模态语言模型为主，可见费率最低的是 DeepSeek OCR 2 的 $0.03 /Mt。要确认具体图像模型的费率，需要到定价页或文档里按 IMAGE 分类再查。
和直接调各家官方 API 相比选哪个？＋
未提及任何竞品名称，无法做逐项对比。从官网自述的差异点看：它把 200+ 模型收在单接口下，按 token 计费而非按小时，并承诺 200ms latency 与 99.5% uptime；如果需求是跨厂商多模型混用、不想逐个对接各家 API，可以直接调它，若只长期用单一家的少数模型，则需要自行比较费率与官方直连的差异。
国内能不能用，有什么限制？＋
未公开任何关于可访问地区、中国大陆可用性或合规限制的说明，官方页面也未提到节点区域。可确认的接入方式是通过 BASE_URL（API.NOVITA.AI/YOUR-ENDPOINT）调用，以及站点提供 llms.txt 文档索引和 .md 变体的 Markdown 文档。是否可稳定访问需要自行实测。
GPU 云部分提供什么机器？＋
包括 8× NVIDIA H200：141 GB HBM3e per GPU、合计 1.128 TB、6/6 nodes、Interconnect 为 NVLink 4th Gen · 900 GB/s、Network 400 Gb/s RDMA；以及 8× NVIDIA H100：80 GB HBM3 per GPU、合计 640 GB。集群侧还标出 CLUSTER-01 为 6 nodes NVLink · GPUDirect RDMA · PCIe，CLUSTER-02 为 12 nodes，CLUSTER-03 为 3 nodes PCIe · 10GbE。
怎么接入，有没有给 Agent 用的入口？＋
此外文档中还给出让 Agent 读取 https://docs.novita.ai/skill.md 的指引。
Omniinfer竞品对比
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| Omniinfer本工具 | 4.2 | 按 token 计费，模型费率从 $0.03 /Mt 起，批量推理有 50% 折扣 | 单接口多模型；按 token 计费；批量推理折扣；私有端点 | API / Web |
| Novita.ai | — | 按模型按量计费，输入低至 $0.02/Mt，部分模型 Free | novita ai 官网，整合了模型 API、无服务器计算和 GPU 服务器租用 简介 Novi | Web / API |
| AiPose | — | 未标价 | 一体化的 AI 图像和视频创作平台 | — |
| Veo 3 AI | — | 未标价 | 一体化的 AI 平台，提供图像、视频和音乐生成 | — |
| Adobe Express | — | 未标价 | 一体化编辑器,AI 助力设计 | — |
| Aivvid AI | — | 未标价 | 一体化的 AI 创作平台，提供视频、图片、音乐和语音解说服务 | — |
