推理云与托管 厂商

Cerebras · 目录排名 #4 · OpenAI 兼容

CS-4 晶圆芯片单 batch 推理速度优于通用 GPU 30 倍。

模型

2 个

输入

$0.35 ~ $0.99

输出

$0.75 ~ $1.49

免费额度注册即送 $5 试用额度，可访问全部 Cerebras 模型；速率限制较低

Hugging Face · 目录排名 #5 · OpenAI 兼容

全球最大 AI 模型与数据集社区，200,000+ 模型 / 1,000,000+ 数据集 / 500,000+ Spaces（截至 2026-09-09）。

模型

81 个

输入

$0.01 ~ $3

输出

$0.06 ~ $15

免费额度免费用户每月 $0.10 推理额度，可读 200,000+ 模型；Spaces / Datasets 免费托管；Inferen…

Cloudflare Workers AI · 目录排名 #5 · OpenAI 兼容

86 个模型目录：LLM / Embedding / 图像 / 音频全覆盖。

模型

27 个

输入

$0.017 ~ $1.4

输出

$0.03 ~ $4.88

免费额度每天 10,000 Neurons 免费（Workers Free 计划）

Fireworks AI · 目录排名 #11 · OpenAI 兼容

Firefunction-v2 是专为 Function Calling 优化的模型。

模型

22 个

输入

$0.05 ~ $4.5

输出

$0.2 ~ $22.5

免费额度新用户 $0.50 免费额度

Groq · 目录排名 #13 · OpenAI 兼容

LPU 推理引擎：Llama 3.3 70B 达 1,250 tok/s。

模型

16 个

输入

$0.03 ~ $0.8

输出

$0.03 ~ $4

免费额度免费速率限制（足够个人开发和小型测试使用）

CoreWeave · 目录排名 #14 · OpenAI 兼容

Nasdaq 上市公司（CRWV），英伟达持股约 11%，「neocloud」头部玩家。

模型

20 个

输入

$0.03 ~ $1.31

输出

$0.13 ~ $3.96

免费额度无永久免费层。Serverless Inference 按 token 计费；GPU 实例按小时计费（On-Demand）或有…

Nvidia · 目录排名 #15 · OpenAI 兼容

NVIDIA 自研 Nemotron-3 系列：LatentMoE（Mamba-2 + MoE + Attention）混合架构。

模型

106 个

输入

$0.14 ~ $0.5

输出

$0.28 ~ $2.5

免费额度免费开发端点（无需信用卡，生成 API Key 即可开始）

Deep Infra · 目录排名 #15 · OpenAI 兼容

极具竞争力的定价（Llama 3.3 70B $0.49/M）。

模型

72 个

输入

$0.02 ~ $2.85

输出

$0.1 ~ $14.25

免费额度注册即送免费额度（每日有限免费调用）

Hyperbolic · 目录排名 #15 · OpenAI 兼容

开源权重模型 OpenAI 兼容推理 API。

模型

—

输入

—

输出

—

免费额度无长期合同；按量计费按小时结算；无永久免费档，但无配额上限、即开即用

Nebius Token Factory · 目录排名 #16 · OpenAI 兼容

拆分出的专注 AI 云；英伟达持股约 9.3%，季度营收同比大增 684%。

模型

21 个

输入

$0.01 ~ $3

输出

$0.24 ~ $15

免费额度注册即可起步，无月费；按量付费（pay-as-you-go）按 token 计费；弹性动态限流，随用量自动扩容至基础额度 20…

Replicate · 目录排名 #16 · OpenAI 兼容

50,000+ 开源模型，覆盖 AI 全部领域。

模型

—

输入

—

输出

—

免费额度新用户 $0.50 免费额度

SambaNova · 目录排名 #16 · OpenAI 兼容

SN40L 自研芯片 + Dataflow 架构。

模型

—

输入

—

输出

—

免费额度免费速率限制（测试用途）

Anyscale · 目录排名 #17 · OpenAI 兼容

Llama 3.3 70B 仅 $0.39/M tokens 具竞争力。

模型

—

输入

—

输出

—

免费额度新用户 $100 免费额度（一次性），另提供少量项目启动额度（$3-$5）

Novita AI · 目录排名 #18 · OpenAI 兼容

Llama 3.3 70B 定价有竞争力。

模型

84 个

输入

$0.01 ~ $3

输出

$0.02 ~ $15

免费额度$0.50 免费试用额度

Baseten · 目录排名 #18 · OpenAI 兼容

Per-second GPU 计量，与 Replicate 同类竞品中按量计费最透明。

模型

24 个

输入

$0.1 ~ $3

输出

$0.26 ~ $15

免费额度$30 in inference credits on signup (valid 30 days); custom mode…

Lepton AI · 目录排名 #19 · OpenAI 兼容

多区域数据驻留：在 us-west-2/us-east-1/eu-west-1/ap-northeast-1 任选 region 钉住推理（数据不跨区域流动）。

模型

—

输入

—

输出

—

免费额度$5 试用额度（30 天有效，足够完整评估任意一款主机模型）

RunPod · 目录排名 #21 · OpenAI 兼容

Per-second GPU billing, zero idle fees, no egress — cost-leader for bursty/inference workloads。

模型

—

输入

—

输出

—

免费额度$5 starter credit on signup, no credit card required; per-secon…

Modal · 目录排名 #28 · OpenAI 兼容

Python 原生 serverless GPU 平台，开发者体验极佳。

模型

4 个

输入

$0.45 ~ $3

输出

$1.5 ~ $15

免费额度Starter 计划免费 + $30/月 计算额度（每月刷新）

Together AI · 目录排名 #39 · OpenAI 兼容

200+ 开源和商业模型，覆盖对话/视觉/图像/视频/音频/Embedding。

模型

29 个

输入

$0.03 ~ $3

输出

$0.12 ~ $15

免费额度注册赠送 $1 初始额度（需绑定支付方式）

Chutes · 目录排名 #44 · OpenAI 兼容

去中心化开源权重推理网络：新旗舰开源模型发布后数分钟即上线（Kimi K2.6、GLM 5.2、Gemma 4 31B、DeepSeek V4 Flash 均在列）。

模型

14 个

输入

$0.025 ~ $3

输出

$0.098 ~ $15

免费额度无免费档（官方 FAQ 明确「不提供免费档」，需在 app 内充值起步）。纯按量付费无最低承诺；另有月付订阅 Plus $10…

NEAR AI Cloud · OpenAI 兼容

NEAR AI Cloud 提供 51 个模型的 API 调用。

模型

51 个

输入

$0.01 ~ $10

输出

$0.01 ~ $50

GreenPT · OpenAI 兼容

GreenPT 提供 40 个模型的 API 调用。

模型

40 个

输入

$0.0044 ~ $3.76

输出

$0.285 ~ $18.81

Neuralwatt · OpenAI 兼容

Neuralwatt 提供 31 个模型的 API 调用。

模型

31 个

输入

$0.091 ~ $3

输出

$0.182 ~ $15

Ollama Cloud · OpenAI 兼容

Ollama Cloud 提供 25 个模型的 API 调用。

模型

25 个

输入

$0.015 ~ $3

输出

$0.24 ~ $15

TensorX · OpenAI 兼容

TensorX 提供 25 个模型的 API 调用。

模型

25 个

输入

$0.072 ~ $3

输出

$0.2 ~ $15

Regolo AI · OpenAI 兼容

Regolo AI 提供 18 个模型的 API 调用。

模型

18 个

输入

$0.1 ~ $2.31

输出

$0.1 ~ $6

GMI Cloud · OpenAI 兼容

GMI Cloud 提供 17 个模型的 API 调用。

模型

17 个

输入

$0.112 ~ $5

输出

$0.224 ~ $30

IO.NET · OpenAI 兼容

IO.NET 提供 17 个模型的 API 调用。

模型

17 个

输入

$0.02 ~ $2

输出

$0.04 ~ $8.75

HPC-AI · OpenAI 兼容

HPC-AI 提供 9 个模型的 API 调用。

模型

9 个

输入

$0.14 ~ $5

输出

$0.28 ~ $30

Inference · OpenAI 兼容

Inference 提供 9 个模型的 API 调用。

模型

9 个

输入

$0.01 ~ $0.2

输出

$0.01 ~ $0.5

IteraCompute · OpenAI 兼容

IteraCompute 提供 9 个模型的 API 调用。

模型

9 个

输入

$0.14 ~ $3

输出

$0.49 ~ $14.9

QVAC

QVAC 提供 9 个模型的 API 调用。

模型

9 个

输入

—

输出

—

Tinfoil · OpenAI 兼容

Tinfoil 提供 8 个模型的 API 调用。

模型

8 个

输入

$0.05 ~ $4

输出

$0.6 ~ $20

Friendli · 目录排名 # · OpenAI 兼容

593K+ open models supported via dedicated endpoints。

模型

7 个

输入

$0.14 ~ $1.4

输出

$0.4 ~ $4.4

免费额度No free tier — per-token billing with no minimum

RunInfra · OpenAI 兼容

RunInfra 提供 7 个模型的 API 调用。

模型

7 个

输入

$0.05 ~ $2

输出

$0.15 ~ $6

AMD · OpenAI 兼容

AMD 提供 6 个模型的 API 调用。

模型

6 个

输入

$0.124 ~ $0.15

输出

$0.28 ~ $0.743

Berget.AI · OpenAI 兼容

Berget.AI 提供 6 个模型的 API 调用。

模型

6 个

输入

$0.275 ~ $3

输出

$0.33 ~ $15

LMStudio · OpenAI 兼容

LMStudio 提供 3 个模型的 API 调用。

模型

3 个

输入

—

输出

—

Kosmik Compute · OpenAI 兼容

Kosmik Compute 提供 1 个模型的 API 调用。

模型

1 个

输入

$0.35 ~ $0.35

输出

$2.2 ~ $2.2

Pareto Inference · OpenAI 兼容

Pareto Inference 提供 1 个模型的 API 调用。

模型

1 个

输入

$0.03 ~ $0.03

输出

$0.1 ~ $0.1

SaladCloud AI Gateway

SaladCloud AI Gateway 提供 1 个模型的 API 调用。

模型

1 个

输入

$0.09 ~ $0.09

输出

$0.6 ~ $0.6

Standard Compute

Standard Compute 提供 1 个模型的 API 调用。

模型

1 个

输入

—

输出

—

Nscale · 目录排名 # · OpenAI 兼容

Serverless 推理：无需管理集群/GPU，托管端点按 API 调用即可上线，支持自动扩缩。

模型

—

输入

—

输出

—

免费额度无永久免费档。新用户注册后通过 Google SSO 登录，官方提示早期用户可能获得免费信用额度（promotional of…