自建 vs 调 API 成本测算器

SELF-HOST VS API私有化部署成本测算

挑一个开源模型,看它要什么卡、几张、每月租多少钱,再和你正在用的 API 单价按同一套用量比:差额多少、机器要跑到多满才比调 API 划算。显存取官方 recipes 的部署下限,卡价取站内收录的按需报价,计算全部在浏览器里完成。

178 个开源模型23 种卡型含回本利用率不联网
MODEL

要自建的模型

只收可自部署的开源模型,按显存从低到高排。

显存下限
—
参数量
—
架构
—
上下文
—

显存下限来自官方 recipes 的 vram_minimum_gb,已含权重与 KV cache 的余量;同一模型不同精度的下限差别很大,先在这里选准档位。

GPU

用哪种卡

默认取「两张卡以内能装下」的最省卡型,也可以手动换。

—

时价随卡型自动带入站内按需最低价(含最低价厂商),可改成你实际谈的价;同一卡型八张以上通常要跨机,网络会拖慢推理,成本结论要再打折扣。

USAGE

你的用量

同一套假设会同时用在自建与 API 两边。

按用量一键代入
API SIDE

API 那边按什么价算

从站内模型库选,或直接手填单价。

单价是站内模型库收录的牌价(美元 / 每 1M token),缓存价缺省时按输入价算。要换便宜模型或换中转站倍率,直接改上面三个数字。

VERDICT

结论

自建按月租固定成本,API 按你的用量逐 token 累加,两边都折成人民币。

自建月成本—卡数 × 时价 × 730 小时
API 月成本—按上面的用量假设
差额—两边每月差多少
回本利用率—自建成本相当于 API 的百分之几
填好上面的用量后显示结论。
算账前先看清这四件事:① 自建只算显卡租金,带宽、存储、运维、模型许可与人的工时都不在内,实际一定更贵;② 卡价取的是站内最低按需价,便宜档常来自共享平台,稳定性与合规性不是一回事;③ 同样一批 token,自建能扛多少并发、首字多快,要按自己的流量实测,成本结论不能替代性能结论;④ 开源模型能力普遍低于同级闭源旗舰,省钱的前提是它够用。
CARDS

换卡型要花多少

同一个模型,把在租卡型都算一遍:各卡型按自己的最低时价,按 730 小时折算月租。

卡型单卡显存需要张数单卡时价月成本最低价厂商
正在计算…

表里标「月租最低」的是纯按价格排出来的;页面上默认选的卡型是「两张卡以内能装下」里最便宜的那个——把模型拆到三四张小卡上虽然账单更便宜,实际跑不动现代模型的精度与吞吐。

ALL MODELS

全部开源模型对照

用当前卡型、汇率与用量,把所有收录模型算一遍,看谁的自建成本离 API 最近。

模型显存张数自建月成本API 月成本差额利用率
正在计算…

每行按「官方原精度(没有原精度档时取最高精度)+ 当前卡型 + 当前用量」算;张数超过 8 张的是跨机规模,实际吞吐会掉。想看出卡型之间的差距,把上面的卡型换成小卡(例如 RTX 4090)再看这张表。

HOW IT WORKS

怎么算这笔账

  1. 选模型在左侧挑一个可自部署的开源模型;下拉里按显存从低到高排,括号里是最低显存,右侧可切换精度档位(精度越低显存越省)。
  2. 选卡型默认给最便宜的可行卡型,也可以手动换;下方的卡型对照表会列出每种卡要几张、月租各多少,方便横着比。
  3. 填用量填每天多少次请求、每次输入与输出多少 token、输入里缓存命中的比例,再填美元兑人民币汇率;API 侧选一个模型单价或手填。
  4. 看结论四个数字是自建月成本、API 月成本、差额与回本利用率;利用率不超过 100% 说明这批用量用自建就已经更省,超过 100% 说明还差,用量要再涨到该倍数才追平。
FAQ

自建与调 API 成本测算常见问题

显存数字是哪来的?

取 vLLM 官方 recipes 里每个模型每个精度档位的 vram_minimum_gb,官方已按权重 + KV cache 留了 1.2 倍余量;这份数字直接用官方的,不按参数量自己推算,算错一个数就会让人买错卡。

自建月成本只算显卡租金吗?

是。只算「卡数 × 单卡时价 × 730 小时」,不含带宽、对象存储、机器运维、模型许可与人的工时;自建实际总支出一定比页面上这个数字高,所以差额要按高于页面的口径再收紧一点。

为什么卡型按的最低时价这么低?

因为取的是站内收录的按需最低单卡时价,低价往往来自共享平台与公有云竞价档,稳定性与合规性和大厂按需档不是一回事;生产环境请按你实际签的价改填。

回本利用率怎么理解?

等于「自建月成本 ÷ 同一批用量走 API 的月成本」:它说的是这台机器要多满才值回票价。不超过 100% 表示这批业务量用自建就已经更省,机器还没跑满就回本;超过 100% 表示还差,用量要放大到该倍数(比如 180% 就是涨到现在的 1.8 倍)才追平。

并发和速度能比吗?

不能。页面只算钱:同样的 token 量,自建能扛多大并发、首字多快,取决于卡型、量化精度、推理框架与批处理参数,这些要按自己的流量实测,别用成本结论代替性能结论。

数据会更新吗?

显存随 vLLM 官方 recipes 更新,卡价随站内 GPU 报价更新,页面会标出两边的数据日期;厂商随时改价,下单前请以官方报价为准。

填的内容会被保存吗?

不会。所有计算在浏览器本地完成,不提交到本站、不写 Cookie 与本地存储;刷新即恢复默认值。

RELATED

显存需求取自 vLLM 官方 recipes(官方更新至 2026-10-27),卡价取自站内收录的 GPU 按需报价(数据日期 2026-10-28 04:46:42),API 单价取自站内模型库;三份数据都会更新,下单前请以官方报价为准。

显卡租金取自站内公开报价聚合,模型单价取自站内模型库;两者都不含电费之外的机房与网络开销。