问「H100 多少钱」时,最常遇到的不是没人报价,而是每家报的压根不是一回事:有人报整机、有人报单卡小时、有人报整月包干,还有的只报裸卡不含电和运维。这篇不给你一个固定数字,而是把影响报价的几个变量拆开,让你拿到报价单时知道该问什么、哪些项必须让对方写清楚,再去站内比价页对照当时的行情。
问「H100 多少钱」,真正麻烦的地方不是没人报价,而是每家报的根本不是同一件东西。有人给你整机包月的数,有人报单卡小时价,有人按整柜长租给折扣,还有的只报裸卡、电和运维另算。这几种数字放在一张表里比大小,等于白比。
所以这篇不塞给你一个固定金额,而是把影响报价的几个变量拆开,告诉你拿到报价单时该问哪几句、哪些项必须让对方白纸黑字写下来,最后再去站内比价页面核对当时的行情区间。
同一张 H100,为什么报价能差出好几倍
差价的第一个来源是口径。单卡小时价、整机包月、整柜长租、按 token 折算的推理价,这四种单位之间没有换算公式,直接比数字没有意义。先确认对方报的是哪一种,再决定要不要继续谈。
- 单卡小时价
- 按每张卡每小时计费,最常见也最容易加隐藏项
- 整机包月
- 按整台机器一个自然月或 30 天计费,适合稳定占用
- 整柜长租
- 以机柜为单位签较长周期,单价通常更低但起租门槛高
- 推理折算价
- 把算力换算成每百万 token 的价格,只有推理场景能用
第二个来源是卡本身的形态。同一代产品里还有显存容量、卡间互联方式、是否原厂整机这些区别,报价单上只写「H100」是远远不够的,采购前先到站内 /compute/gpus 把规格对上具体型号。
第三块最容易被漏掉:带宽与公网出口、存储容量、系统盘、运维与重装、税费和账期。这些常常不在单价里,等你实际跑起来才发现账单比报价高出一截。结论很简单——不要横向比单价,先把自己的需求写成一句能对齐的话,再去 /compute/price-index 看当时区间。
租还是买:先看你的使用时长落在哪一档
判断租还是买,第一刀切在使用时长上。短周期、需求不确定、需要快速试跑的场景,按小时或按月租更灵活;只有长期满载、并且自己能承担运维团队和机房条件,自购才谈得上有账可算。
- 把闲置率算进去:自购的卡在没任务跑的时候照样在贬值,租的卡不用就停
- 把运维人力算进去:驱动、CUDA、故障换卡都要人,小团队往往低估这块
- 把贬值曲线算进去:卡换代速度不慢,三年后残值多少要有心理预期
- 把合同条款翻一遍:最低消费、超用计费、退租与违约,常常比单价更影响总支出
站内 /compute/tco 给的是三年账的算法思路,具体数字以页面当时口径为准。有必要说明什么情况下这套算法不适用:如果合规要求数据不出内网,或者必须独占物理机,那比较维度会先换成合规和隔离,再谈钱。
拿到报价单,先核这 8 项
下面这张表可以直接拿去对照对方发来的报价,缺哪一项就在邮件里追问,别等到签完合同才发现口径不对。
| 核对项 | 要问清楚什么 |
|---|---|
| 卡型 | 全称、显存容量、互联方式、是否原厂整机,别只写 H100 |
| 计费单位 | 按秒、小时、天还是整月,最小计费粒度和起租时长 |
| 共享方式 | 独享还是可超卖,断点续跑后是否重新计费 |
| 网络存储 | 出网带宽上限、流量是否另计、可用存储与 IO 性能 |
| 交付形态 | 容器镜像、裸机 SSH 还是托管接口,决定你要不要自己装驱动 |
| 故障与可用率 | 宕机怎么补时长、有没有写进合同的 SLA |
剩下两项不在表里,但同样关键:一是账期与结算,预付、后付、押金、发票和退款规则要落到书面;二是把对方口头承诺的内容全部写进合同附件。做完这些,再去 /compute/providers 横向比一遍同类厂商的口径。
把报价换算成你自己的月度预算
报价再漂亮,最终要落回你自己的账。做法是先估任务量:训练类看卡时总数,推理类看并发和日均请求量,再乘上单价得到基线,然后往上加弹性。
- 估任务量训练按预计卡时总数、推理按并发乘以日均请求量,算出一个基线数字
- 加弹性缓冲在基线上留出两到三成余量,应对排队、重跑、调试和数据搬运这些不产出结果的时间
- 做对照组短周期低频任务同时算一遍按量调 API 的成本,参照 /compute/platforms 的路线区分
- 建对账表列卡型、单价、预计卡时、附加费、合计五列,每月对一次账
这份对账表坚持做几个月,你会慢慢摸清自己真实的单位成本和闲置比例,下次谈价时手里就有底。想知道当下各家平台的实时区间,去 /price-watch 看当时的数字比任何人的口头报价都准。
下一步先把型号和计费口径对清楚,再拿这张清单去谈价,最后去站内比价页核对当时的行情区间→常见问题
为什么我问到的 H100 报价和网上看到的差这么多?
大概率不是同一件事。有人报单卡小时租价,有人报整机包月,有人报的是推理接口的折算价,还有的报价不含电、网、存储和运维。先把计费单位和交付形态对齐,再谈数字;站内 /compute/price-index 能看到当时的租金区间走势。
买整机还是按小时租,怎么选?
看使用时长和确定性。需求还在试、跑几周就停的,按小时租灵活;确定长期满载、有运维能力的,自购或长租才可能摊薄。别忽略闲置率和运维人力这两块,站内 /compute/tco 讲的是三年账的算法,具体数字以页面当时口径为准。
报价便宜就一定划算吗?
不一定。便宜可能来自超卖、共享带宽、无 SLA 或按整月计费不允许中途停。核对时重点看可用率承诺、故障补偿、退款条款和是否独享。反过来说,贵也不等于稳,关键看报价单有没有把规格、计费粒度和责任边界写清楚。