团队要上 A100,第一个卡住的往往不是性能,而是钱怎么算:40G 和 80G 差在哪、买整机要一次性掏多少、按月租卡又要盯哪些条款,问下来每家的说法还对不上。这篇按采购和租用两条路,把成本拆成能核对的几块,给一套比价顺序和该问的问题清单,让你在报价单面前不至于只看得懂总价。
团队要上 A100,第一个卡住的往往不是性能,而是钱怎么算:40G 和 80G 差在哪、买整机要一次性掏多少、按月租卡又要盯哪些条款,问下来每家的说法还对不上。这篇按采购和租用两条路,把成本拆成能核对的几块,给一套比价顺序和该问的问题清单。
先明确一点:本文不谈应该选哪个型号,只谈怎么把两张不同口径的报价单放到同一张表上。具体档位对应的价格会随行情浮动,所有数字请到站内价格追踪页核对当时的值,不要拿几个月前的记忆去谈。
先分清你买的是卡、是整机,还是一段时间的算力
- 买卡
- 按张计价,但你要自己解决平台、供电、散热和后续运维,隐性成本最高
- 买整机
- 按配置整体报价,省去兼容性折腾,但 CPU、内存、盘的比例常被绑死,可能买多也可能买少
- 租卡
- 按小时或按月买一段时间的使用权,单价看着高,但把折旧和运维都转出去了
三种形态的计价单位根本不同,混着比一定错。常见错误是拿一张卡的裸价去比整机报价,或者拿按月租金去比整机总价,最后得到的结论没有任何参考价值。
40G 和 80G 的核心差别在显存容量,直接决定你能塞多大的模型、能开多大的批量。正确的顺序是先按你的模型显存占用和并发需求定档,再在同一个档位里比价格。档位没定就比价,等于在比两个不同东西。
采购路:一张卡的钱只是第一层
- 第一层:硬件本身按张或按整机报价,先记下含税、含运、含保修的口径,很多报价单在这里就埋了差异。
- 第二层:平台与机房机架、供电改造、散热、网络交换机、备件,这些通常不在卡的报价里,要单独询价。
- 第三层:长期运行把三年的电费、机房或托管费、运维人力按年摊进去,再折算成每月成本。
- 第四层:折算对比只有把第三层做完,自建的每月成本才能和租卡租金放在同一张表上,否则就是拿鸡比鸭。
判断标准很直白:如果你的负载能稳定跑满一年以上,采购的摊薄成本才有机会追平租金;如果只是短期实验、或者峰值用量远高于日常用量,先别按采购算。什么情况下不适用:团队没有机房运维能力、或者硬件更新周期快到你还没回本就要换代,这两种情况采购账基本算不平。
- 报价单先问清是否含税、含运、含保修,这三项能把实际支出拉出明显差距
- 问清保修的响应时效和是否上门,自建故障停机的损失要算进总账
- 把备件预算单独列出来,坏了等配件的时间也是成本
- 留意整机配置里 CPU、内存、盘的比例,买多了是浪费,买少了后期加装更贵
租用路:单价之外还有四件事要问清
租卡的单价只是入口,真正决定你实际支出的是下面四项条款。拿着单价直接下单,最后账单超预期是常态。
| 要问的点 | 为什么重要 | 怎么验证 |
|---|---|---|
| 计费口径 | 按小时还是按月、关机是否继续计费,差别很大 | 直接问客服要计费规则原文,别只听口头描述 |
| 最短租期与退租 | 最短租期长、退租门槛高,灵活性就没了 | 问清能否随时退、退租怎么结算 |
| 独占还是共享 | 共享卡的实际吞吐不稳定,影响你排产计划 | 问清是否独占,能否锁定卡型 |
| 附加项 | 带宽、存储、公网流量、镜像盘常常另算 | 要求列出全部附加计费项,逐条确认 |
先去站内价格追踪页核对当时的租金水平和在货情况,拿具体数字去谈,比空口问「多少钱」有效得多。中转站的报价还可以顺手到站内的可信度检测页面过一遍,看看历史履约情况,别只看单价低就下单。
什么情况下不适用:如果你的任务需要长期稳定满载、且对数据落地位置有硬要求,租卡反而可能因为迁移和合规成本更高,这时候要把这两项也折算进去再判断。
把两条路放到同一张表上的比价清单
前面拆完各层,最后一步是统一口径。不统一口径,前面算得再细也白搭。下面这套顺序照着走就行。
- 统一折算成「每月每张卡的成本」,一次性投入按你计划的使用周期摊平,不要用总价直接对比
- 把使用假设写死在纸上:每天跑几小时、一年几个月有负载,假设一变结论就变,所以假设必须可追溯
- 把迁移和停机成本写进去:自建换卡周期长,租卡换供应商要重做环境和数据搬迁
- 拿不准就问三件事:故障怎么赔、超量怎么算、退租怎么结,这三条答不清的先放一边
判断标准可以简化成一句:先看你的使用时长假设稳不稳定,再看两边的每月成本差是否大于你愿意承担的迁移风险。差得不多就选灵活的,差得明显且假设够稳,再考虑采购。具体数字仍然回到站内价格追踪页看当期行情,不同时间点结论会变。
下一步把当前各家的租金和档位行情拿在手里,再去和采购报价对照,比在表格里空推要快得多。→常见问题
A100 40G 和 80G 该选哪个?
先看你模型和批量的显存占用,能塞进 40G 就没必要为容量多付溢价;反过来,如果 40G 上要频繁切分或降批量导致吞吐掉一半,多花的钱可能反而更值。别只看单价,看的是完成同一批任务的总时长成本。
买卡和租卡哪个更划算?
取决于你的负载是否长期稳定且接近满载。长期高占用、团队有运维能力,采购在几年周期里通常摊得更低;负载波动大、项目周期短、或者只是想先验证,租用灵活性和现金流压力都更友好。具体数字到站内算力相关页面按当时水平折算。
谈判时最容易被忽略的成本项是什么?
存储、公网带宽和关机是否计费。很多报价单上租金很低,但盘和流量按量另算,实际月度支出可能高出不少。签之前一定要问到这几项怎么计、有没有封顶,以及超量后的单价。