开源模型托管比价

INFERENCE托管比价

同一个开源模型，在不同推理托管商那里的价格、输出吞吐、上下文窗口和特性并不一样。本页把报价摊平成矩阵，并直接给出每个模型「最便宜的托管方案」结论。

数据日期 2026-09-21 覆盖 9 个模型 · 22 条报价

本期矩阵收录 9 个开源模型、22 条按 token 计费的报价（上游共追踪 10 家托管商，其中 6 家在本期有报价）。本期有 3 个模型在不同托管商之间存在真实价差，混合价最高与最低平均相差 3.51×；价差最大的是 DeepSeek V4 Flash，最贵方案是最便宜方案的 5.29×（OpenRouter $0.0832 起）；另有 3 条 0 美元报价属于原型期免费额度，不能当生产通道用。

在比价模型 9 全部为开放权重模型

报价条数 22 6 家托管商有报价

平均价差倍数 3.51× 3 个模型存在价差（最贵 ÷ 最便宜，混合价）

最大价差 5.29× DeepSeek V4 Flash

免费额度报价 3 仅适合原型验证

当前显示 9 个模型 / 22 条报价

矩阵数据日期 2026-09-21，OpenRouter 目录数据日期 2026-10-26

每个模型的最便宜托管方案

结论直接可抄

价差倍数为同模型最贵价 ÷ 最便宜价

DeepSeek V4 Flash DeepSeek · 70B 参数 · MIT
最贵 5.29×

最便宜 OpenRouter $0.0832 混合价 / 百万 token

输入价
$0.0554

输出价
$0.1109

输出吞吐
未公布

最大上下文
1,000,000 tokens

无免费额度 4 条报价价格页 →
Phi-4 Microsoft · 14B 参数 · MIT
价格持平

最便宜 DeepInfra $0.105 混合价 / 百万 token

输入价
$0.07

输出价
$0.14

输出吞吐
220 tok/s

最大上下文
16,384 tokens

免费额度 · GitHub Models 3 条报价价格页 →
Llama 4 Scout Meta · 109B 参数 · Llama 4 Community License
价格持平

最便宜 DeepInfra $0.2 混合价 / 百万 token

输入价
$0.1

输出价
$0.3

输出吞吐
170 tok/s

最大上下文
10,000,000 tokens

无免费额度 2 条报价价格页 →
Qwen 2.5 72B Instruct Alibaba · 72B 参数 · Qwen License
价格持平

最便宜 OpenRouter $0.375 混合价 / 百万 token

输入价
$0.35

输出价
$0.4

输出吞吐
未公布

最大上下文
130,000 tokens

免费额度 · GitHub Models 3 条报价价格页 →
Llama 3.1 70B Instruct Meta · 70B 参数 · Llama 3.1 Community License
独此一家

最便宜 OpenRouter $0.4 混合价 / 百万 token

输入价
$0.4

输出价
$0.4

输出吞吐
未公布

最大上下文
130,000 tokens

无免费额度 1 条报价价格页 →
Llama 4 Maverick Meta · 400B 参数 · Llama 4 Community License
最贵 1.19×

最便宜 OpenRouter $0.42 混合价 / 百万 token

输入价
$0.1875

输出价
$0.6525

输出吞吐
未公布

最大上下文
1,000,000 tokens

无免费额度 2 条报价价格页 →
Mixtral 8x22B Instruct Mistral · 141B 参数 · Apache-2.0
独此一家

最便宜 OpenRouter $0.65 混合价 / 百万 token

输入价
$0.65

输出价
$0.65

输出吞吐
未公布

最大上下文
65,536 tokens

无免费额度 1 条报价价格页 →
DeepSeek V4 Pro DeepSeek · 1,600B 参数 · MIT
最贵 4.05×

最便宜 OpenRouter $0.6525 混合价 / 百万 token

输入价
$0.435

输出价
$0.87

输出吞吐
未公布

最大上下文
1,048,576 tokens

免费额度 · GitHub Models 5 条报价价格页 →
Llama 3.1 405B Instruct Meta · 405B 参数 · Llama 3.1 Community License
独此一家

最便宜 OpenRouter $3 混合价 / 百万 token

输入价
$3

输出价
$3

输出吞吐
未公布

最大上下文
130,000 tokens

无免费额度 1 条报价价格页 →

展开逐模型明细表（9 个模型，跟随上方筛选）

每个开源模型最便宜的托管方案与价格明细
模型	最便宜托管商	混合价	输入价	输出价	输出吞吐（TPS）	最大上下文	价差（最贵）	免费额度	来源
DeepSeek V4 Flash deepseek-v4-flash · DeepSeek · 70B · MIT	OpenRouter	$0.0832	$0.0554	$0.1109	未公布	1,000,000 tokens	最贵 5.29×	无免费额度	价格页 →
Phi-4 phi-4 · Microsoft · 14B · MIT	DeepInfra	$0.105	$0.07	$0.14	220 tok/s	16,384 tokens	价格持平	免费额度 · GitHub Models	价格页 →
Llama 4 Scout llama-4-scout · Meta · 109B · Llama 4 Community License	DeepInfra	$0.2	$0.1	$0.3	170 tok/s	10,000,000 tokens	价格持平	无免费额度	价格页 →
Qwen 2.5 72B Instruct qwen-2.5-72b · Alibaba · 72B · Qwen License	OpenRouter	$0.375	$0.35	$0.4	未公布	130,000 tokens	价格持平	免费额度 · GitHub Models	价格页 →
Llama 3.1 70B Instruct llama-3.1-70b · Meta · 70B · Llama 3.1 Community License	OpenRouter	$0.4	$0.4	$0.4	未公布	130,000 tokens	独此一家	无免费额度	价格页 →
Llama 4 Maverick llama-4-maverick · Meta · 400B · Llama 4 Community License	OpenRouter	$0.42	$0.1875	$0.6525	未公布	1,000,000 tokens	最贵 1.19×	无免费额度	价格页 →
Mixtral 8x22B Instruct mixtral-8x22b · Mistral · 141B · Apache-2.0	OpenRouter	$0.65	$0.65	$0.65	未公布	65,536 tokens	独此一家	无免费额度	价格页 →
DeepSeek V4 Pro deepseek-v4-pro · DeepSeek · 1600B · MIT	OpenRouter	$0.6525	$0.435	$0.87	未公布	1,048,576 tokens	最贵 4.05×	免费额度 · GitHub Models	价格页 →
Llama 3.1 405B Instruct llama-3.1-405b · Meta · 405B · Llama 3.1 Community License	OpenRouter	$3	$3	$3	未公布	130,000 tokens	独此一家	无免费额度	价格页 →

价格矩阵（全部报价）

22 / 22 条

「位次」按同一模型内的混合价从低到高

开源模型 × 推理托管商的价格、吞吐与上下文矩阵
模型	托管商	位次	输入价	输出价	混合价	输出吞吐（TPS）	上下文窗口	特性标记	免费额度	托管商说明	来源
DeepSeek V4 Pro DeepSeek-V4-Pro	GitHub Models	免费额度	免费	免费	免费	未公布	1,000,000 tokens	函数调用	免费额度	Free tier rate-limited (prototyping); paid via Azure AI Foundry	价格页 →
Phi-4 Phi-4	GitHub Models	免费额度	免费	免费	免费	未公布	16,384 tokens	函数调用	免费额度	Free tier rate-limited (prototyping); paid via Azure AI Foundry	价格页 →
Qwen 2.5 72B Instruct qwen2.5-72b-instruct	GitHub Models	免费额度	免费	免费	免费	未公布	130,000 tokens	函数调用	免费额度	Free tier rate-limited (prototyping); paid via Azure AI Foundry	价格页 →
DeepSeek V4 Flash deepseek/deepseek-v4-flash	OpenRouter	最便宜	$0.0554	$0.1109	$0.0832	未公布	1,000,000 tokens	函数调用	—	Promotional rate, listed as 60 percent off standard, so it can move without notice	价格页 →
Phi-4 microsoft/phi-4	DeepInfra	最便宜	$0.07	$0.14	$0.105	220 tok/s	16,384 tokens	函数调用	—	—	价格页 →
Phi-4 microsoft/phi-4	OpenRouter	第 2 低	$0.07	$0.14	$0.105	未公布	16,384 tokens	函数调用	—	—	价格页 →
Llama 4 Scout meta-llama/Llama-4-Scout-17B-16E-Instruct	DeepInfra	最便宜	$0.1	$0.3	$0.2	170 tok/s	10,000,000 tokens	函数调用、视觉输入	—	—	价格页 →
Llama 4 Scout meta-llama/llama-4-scout	OpenRouter	第 2 低	$0.1	$0.3	$0.2	未公布	10,000,000 tokens	函数调用、视觉输入	—	Same headline price as DeepInfra	价格页 →
DeepSeek V4 Flash deepseek-ai/DeepSeek-V4-Flash	Together AI	第 2 低	$0.14	$0.28	$0.21	145 tok/s	130,000 tokens	函数调用、JSON 模式	—	Listed as DeepSeek V4 Flash 0731; cached input is $0.03	价格页 →
DeepSeek V4 Flash deepseek-v4-flash	Venice	第 3 低	$0.14	$0.28	$0.21	未公布	1,000,000 tokens	函数调用、JSON 模式	—	Serves the full 1M context where Together and Fireworks cap this model at 130k	价格页 →
Qwen 2.5 72B Instruct qwen/qwen-2.5-72b-instruct	OpenRouter	最便宜	$0.35	$0.4	$0.375	未公布	130,000 tokens	函数调用	—	—	价格页 →
Qwen 2.5 72B Instruct Qwen/Qwen2.5-72B-Instruct	DeepInfra	第 2 低	$0.36	$0.4	$0.38	80 tok/s	130,000 tokens	函数调用	—	—	价格页 →
Llama 3.1 70B Instruct meta-llama/llama-3.1-70b-instruct	OpenRouter	最便宜	$0.4	$0.4	$0.4	未公布	130,000 tokens	函数调用	—	Only per-token route left in this matrix; Groq now serves Llama 3.3 70B in its place	价格页 →
Llama 4 Maverick meta-llama/llama-4-maverick	OpenRouter	最便宜	$0.1875	$0.6525	$0.42	未公布	1,000,000 tokens	函数调用、视觉输入	—	Routes across multiple providers automatically	价格页 →
DeepSeek V4 Flash accounts/fireworks/models/deepseek-v4-flash	Fireworks	第 4 低	$0.22	$0.66	$0.44	130 tok/s	130,000 tokens	函数调用、JSON 模式	—	Per-token rate is published for the 0731 snapshot	价格页 →
Llama 4 Maverick meta-llama/Llama-4-Maverick-17B-128E-Instruct-FP8	DeepInfra	第 2 低	$0.2	$0.8	$0.5	110 tok/s	1,000,000 tokens	函数调用、视觉输入	—	FP8 checkpoint; the only per-token host of Maverick left outside OpenRouter	价格页 →
Mixtral 8x22B Instruct mistralai/mixtral-8x22b-instruct	OpenRouter	最便宜	$0.65	$0.65	$0.65	未公布	65,536 tokens	函数调用	—	Only per-token route left in this matrix; DeepInfra removed the model and Fireworks moved it to dedicated deployment	价格页 →
DeepSeek V4 Pro deepseek/deepseek-v4-pro	OpenRouter	最便宜	$0.435	$0.87	$0.6525	未公布	1,048,576 tokens	函数调用	—	Cheapest paid route here by a wide margin. The old deepseek/deepseek-chat slug tracked an alias DeepSeek retired on 2026-07-24	价格页 →
DeepSeek V4 Pro deepseek-v4-pro	Venice	第 2 低	$1.65	$3.3	$2.475	未公布	1,000,000 tokens	函数调用、JSON 模式	—	Privacy-first host: no prompt retention. Venice prices the newer deepseek-v4-pro-0813 snapshot higher, at $1.65 in and $4.95 out	价格页 →
DeepSeek V4 Pro deepseek-ai/DeepSeek-V4-Pro	Together AI	第 3 低	$1.32	$3.96	$2.64	90 tok/s	1,000,000 tokens	函数调用、JSON 模式	—	Listed as DeepSeek V4 Pro 0813; cached input is $0.13	价格页 →
DeepSeek V4 Pro accounts/fireworks/models/deepseek-v4-pro	Fireworks	第 4 低	$1.32	$3.96	$2.64	85 tok/s	1,000,000 tokens	函数调用、JSON 模式	—	Per-token rate is published for the 0813 snapshot; the base model id is on-demand deployment only	价格页 →
Llama 3.1 405B Instruct meta-llama/llama-3.1-405b-instruct	OpenRouter	最便宜	$3	$3	$3	未公布	130,000 tokens	函数调用	—	Only per-token route left in this matrix; Together, Fireworks and DeepInfra dropped serverless 405B	价格页 →

函数调用 = function-calling JSON 模式 = json-mode 视觉输入 = vision 未公布 = 该条报价没有给出输出吞吐（TPS）

免费额度与免费变体

共 3 条 0 美元报价 + 16 个免费目录模型

本节为全矩阵参考清单，不受上方筛选影响

矩阵内 0 美元报价（可直接对照上表使用）

矩阵内 0 美元报价明细
模型	托管商	上下文窗口	特性标记	上游说明	来源
DeepSeek V4 Pro DeepSeek-V4-Pro	GitHub Models	1,000,000 tokens	函数调用	Free tier rate-limited (prototyping); paid via Azure AI Foundry	价格页 →
Phi-4 Phi-4	GitHub Models	16,384 tokens	函数调用	Free tier rate-limited (prototyping); paid via Azure AI Foundry	价格页 →
Qwen 2.5 72B Instruct qwen2.5-72b-instruct	GitHub Models	130,000 tokens	函数调用	Free tier rate-limited (prototyping); paid via Azure AI Foundry	价格页 →

OpenRouter 目录里的免费变体（模型 id 以 :free 结尾）

OpenRouter 免费变体目录
模型	最大上下文	模态	输入价	输出价	目录页
Thinking Machines: Inkling Small (free) thinkingmachines/inkling-small:free	1,048,576 tokens	文本 + 图像 + 音频 → 文本	免费	免费	OpenRouter →
Thinking Machines: Inkling (free) thinkingmachines/inkling:free	1,048,576 tokens	文本 + 图像 + 音频 → 文本	免费	免费	OpenRouter →
NVIDIA: Nemotron 3 Ultra (free) nvidia/nemotron-3-ultra-550b-a55b:free	1,000,000 tokens	纯文本	免费	免费	OpenRouter →
NVIDIA: Nemotron 3.5 Lightning (free) nvidia/nemotron-3.5-lightning:free	1,000,000 tokens	纯文本	免费	免费	OpenRouter →
NVIDIA: Nemotron 3.5 Super VL (free) nvidia/nemotron-3.5-super-vl:free	1,000,000 tokens	文本 + 图像 + 视频 → 文本	免费	免费	OpenRouter →
Dots Studio: Dots3-Note Preview (free) dots-studio/dots-3-note-preview:free	512,000 tokens	文本 + 图像	免费	免费	OpenRouter →
Google: Gemma 4 26B A4B (free) google/gemma-4-26b-a4b-it:free	262,144 tokens	文本 + 图像 + 视频 → 文本	免费	免费	OpenRouter →
Google: Gemma 4 31B (free) google/gemma-4-31b-it:free	262,144 tokens	文本 + 图像 + 视频 → 文本	免费	免费	OpenRouter →
NVIDIA: Nemotron 3 Super (free) nvidia/nemotron-3-super-120b-a12b:free	262,144 tokens	纯文本	免费	免费	OpenRouter →
Poolside: Laguna S 2.1 (free) poolside/laguna-s-2.1:free	262,144 tokens	纯文本	免费	免费	OpenRouter →
Poolside: Laguna XS 2.1 (free) poolside/laguna-xs-2.1:free	262,144 tokens	纯文本	免费	免费	OpenRouter →
Recursive: Flint (free) recursive/flint-v1.0:free	262,144 tokens	纯文本	免费	免费	OpenRouter →
XingChen: Xing4.0 29B A4B (free) xingchen-agi/xing4.0-29b-a4b:free	262,144 tokens	纯文本	免费	免费	OpenRouter →
Cohere: North Mini Code (free) cohere/north-mini-code:free	256,000 tokens	纯文本	免费	免费	OpenRouter →
NVIDIA: Nemotron 3 Nano Omni (free) nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free	256,000 tokens	文本 + 图像 + 音频 + 视频 → 文本	免费	免费	OpenRouter →
NVIDIA: Nemotron 3.5 Content Safety (free) nvidia/nemotron-3.5-content-safety:free	128,000 tokens	文本 + 图像	免费	免费	OpenRouter →

矩阵数据价 vs OpenRouter 目录现价

8 个模型可对照

矩阵 2026-09-21 · 目录 2026-10-26（跟随上方筛选）

矩阵数据与 OpenRouter 目录现价的差异对照
模型	矩阵内最低混合价	目录输入价	目录输出价	目录混合价	相对上次记录变化	目录上下文	模态	目录页
DeepSeek: DeepSeek V4 Flash 0423	$0.0832	$0.091	$0.182	$0.1138	+36.8%	1,048,576 tokens	纯文本	目录页 →
Microsoft: Phi 4	$0.105	$0.07	$0.14	$0.0875	-16.7%	16,384 tokens	纯文本	目录页 →
Meta: Llama 4 Scout	$0.2	$0.1	$0.3	$0.15	-25.0%	1,310,720 tokens	文本 + 图像	目录页 →
Qwen2.5 72B Instruct	$0.375	$0.36	$0.4	$0.37	-1.3%	32,768 tokens	纯文本	目录页 →
Meta: Llama 3.1 70B Instruct	$0.4	$0.4	$0.4	$0.4	-0.0%	131,072 tokens	纯文本	目录页 →
Meta: Llama 4 Maverick	$0.42	$0.1875	$0.6525	$0.3037	-27.7%	524,288 tokens	文本 + 图像	目录页 →
Mistral: Mixtral 8x22B Instruct	$0.65	$2	$6	$3	+361.5%	65,536 tokens	文本 + 文件 → 文本	目录页 →
DeepSeek: DeepSeek V4 Pro 0423	$0.6525	$0.7926	$1.5851	$0.9907	+51.8%	1,048,576 tokens	纯文本	目录页 →

「相对上次记录变化」是目录现价混合价相对矩阵最低混合价的变化百分比。两组数据分别是 2026-10-26 与 2026-09-21，正数表示目录价更高（多为促销结束或调价），负数表示目录价更低。

数据说明

矩阵覆盖范围9 个模型 / 22 条报价全部为开放权重模型，含 Llama、DeepSeek、Qwen、Mistral、Phi 系列

上游追踪但本期无报价4 家：Groq、Replicate、Anyscale、DeepSeek上游追踪 10 家托管商，本期只有 6 家出现在这 9 个模型的报价里

价格口径美元 / 百万 tokens；混合价 =（输入价 × 3 + 输出价）÷ 4混合价假定输入 : 输出 = 3 : 1，属于本站派生指标，上游只给输入价与输出价

价差情况3 / 9 个模型存在价差其余模型各家报价一致，或全矩阵只剩一家按 token 计费（如 Llama 3.1 405B）

吞吐口径8 / 22 条报价公布了输出 TPS未公布显示「未公布」，不等于速度差

免费额度3 条 0 美元报价 + 16 个 :free 目录模型目录接口自报免费额度模型 20 个，本站能按 :free 后缀识别的是 16 个，口径差异属上游计数方式不同

上游数据日期矩阵 2026-09-21，目录 2026-10-26两个上游的更新时点不同，跨表对照时注意时间差

数据日期2026-10-27 19:00与厂商当前页面不一致时以厂商页面为准

常见问题

为什么同一个模型，不同托管商的价差能有好几倍？

本期矩阵里差价最大的是 DeepSeek V4 Flash：OpenRouter 是标注「60% off」的促销价（混合价 $0.0832），而最贵方案是 Fireworks 的 $0.44，相差 5.29×。常见原因有五个：① 限时促销与折扣；② 量化精度不同（FP8 与 BF16 的算力成本差异）；③ 是否含缓存输入折扣；④ 上下文上限不同（同一个模型有的家只给 130k，有的给 1M）；⑤ SLA、隐私与留存策略（例如不留存提示词的托管商报价通常更高）。所以比价要和上下文、SLA 一起看，别只看单价。

免费额度能不能用于生产？

不能直接上。矩阵里的 0 美元报价来自 GitHub Models，上游备注就是「Free tier rate-limited (prototyping)」；OpenRouter 的 :free 变体也普遍限速限并发，而且可能随时下线或改价。稳妥做法是：用免费额度做功能验证和压测基线，生产流量走付费通道，并在代码里预留按模型切换托管商的能力。

「混合价」按什么比例折算？我的场景不一样怎么办？

本页统一按输入 : 输出 = 3 : 1，即（输入价 × 3 + 输出价）÷ 4。如果你的任务是长文档摘要、RAG 检索这类输入远大于输出的场景，真实成本会更接近输入价；如果是长文生成，则会向输出价靠。建议用本站 /tools/model-cost-calculator 按自己的 token 比例算一遍再决策。

输出 TPS 能直接横向比较吗？

只能粗比。本期 22 条报价里只有 8 条公布了输出 TPS；而且 TPS 受并发、批量大小、上下文长度和负载时段影响很大，同一家不同时间也会波动。另外它是「输出吞吐」，不等于端到端时延——首字延迟（TTFT）本期矩阵没有数据。排序时选「输出速度从快到慢」只作为初筛。

上游追踪 10 家托管商，为什么矩阵里只有 6 家？

因为另外 4 家（Groq、Replicate、Anyscale、DeepSeek）在这 9 个模型上没有按 token 计费的 serverless 报价：有的转为专属部署或按小时计费，有的干脆下架了老模型。最极端的是 Llama 3.1 405B，现在只剩 OpenRouter 一条按 token 计费的路线。

矩阵价和 OpenRouter 目录价对不上，以哪个为准？

以厂商当前页面的实时价为准，两份数据都只是当时的记录：矩阵是 2026-09-21，目录是 2026-10-26，相隔半个月，促销价在这期间变过很正常。第 05 节把能对照的 8 个模型逐条列了出来，正数表示目录价更高。

报价取自各托管商公开定价页与公开模型目录；数据日期 2026-09-21，价格与额度以托管商官方页面为准。