你想租或买一块 A100,看到别人报的价和自己的差出一截,多半是显存档位没对齐。80GB 和 40GB 在同一个名字下报价差得很远,租用(时租、包月)和整卡采购又是两套口径。这篇给一套拆价思路和问价清单,所有具体数字都到站内对应页面按当时的行情核对。
你想租或买一块 A100,看到别人报的价和自己的差出一截,多半是显存档位没对齐。80GB 和 40GB 挂着同一个型号名,能塞下的模型、批量大小、上下文长度都不一样,报价自然分两档。更要紧的是,租用和整卡采购是两套完全不同的口径,混在一起比等于白比。
这篇不给你一个固定数字,因为行情一直在动。它给你一套拆价思路和问价清单:先把档位和形态问清,再把租用和整卡两条线分开算,最后拿自己的任务去套。所有具体金额,都到站内对应页面按当时的行情核对。
80GB 和 40GB 为什么必须分开看价
很多人比价时只看到「A100」三个字,没注意后面跟的显存。80GB 能放下的模型规模、单卡能扛的批量、能开的上下文长度,都和 40GB 不是一回事,所以它们本质上是两个不同的产品档位,价格差得远很正常。
形态也会拉开差距。80GB 常见的是 SXM 加 NVLink 的整机方案,40GB 常见的是 PCIe 单卡插进通用服务器。整机方案卖的是互联和密度,单卡卖的是插槽兼容性,报价的落点根本不在一个平面上。
- 先确认显存档位:80GB 还是 40GB,这一项不确认,后面所有比价都作废
- 再确认接口形态:SXM 还是 PCIe,带不带 NVLink 桥,决定了它能不能进你现有的机器
- 看到明显低于同类的报价,先问一句是不是 40GB 档或者二手拆机,别急着高兴
- 当前规格和档位差异到 加速卡规格库(/compute/gpus) 核对,现价区间到 租卡现在贵不贵(/compute/price-index) 看
租用价格里到底装了哪几笔
租金只是明面上那一笔。实际账单里往往还夹着带宽、存储、公网出口、镜像拉取和运维支持,这些项目有的包在套餐里,有的按用量单独计费。问价时只盯着每小时单价,最后账单往往会跑偏。
计费粒度是第二个容易吃亏的地方。按秒、按小时、按月计费,加上有没有最低开机时长、空闲时会不会继续算钱,同样的任务跑下来差别可以很大。包月看着便宜,但你每天真实跑不满那个时长,就等于替空闲时间付了钱。
| 费用项 | 怎么问 | 容易踩的坑 |
|---|---|---|
| 算力租金 | 按什么单位计费,有没有最低消费 | 只看单价,忽略最低开机时长 |
| 带宽与流量 | 含多少,超了怎么算 | 公网出口单独计费没提前说 |
| 存储 | 系统盘和数据盘怎么算,关机后是否保留 | 关机不停机,存储继续计费 |
| 镜像与运维 | 自定义镜像、技术支持是否额外收 | 出问题拉群另收费 |
- 第一步:把计费单位问清确认是按秒、按小时还是按月,以及有没有最低开机时长。这一项直接决定你短任务的实际成本。
- 第二步:把附加项列出来带宽、存储、公网出口、镜像,逐项问含不含、超了怎么算,记成一张表。
- 第三步:用真实时长回算按你每天实际跑多少小时,把时租和包月分别换算一次。跑不满包月时长就选按需。
- 第四步:对照站内比一比换算方法和口径参考 买卡还是租卡:三年账怎么算(/compute/tco),别只看挂牌单价。
整卡采购价的几个变量
整卡采购比租用更容易被单卡价格带偏。接口形态、显存、是否带 NVLink 桥、要不要配上机架平台,这些都会让到手价差出一截。你比的是「能跑起来的一套」,不是一张躺在盒子里的卡。
渠道不同,价格和保障也完全不同。原厂整机、整机厂方案、二手卡、拆机卡,供货周期和保修条款各是一回事。同价位下,能立刻拿到货并且有明确保修路径的渠道,实际价值更高。
- 别只记卡价,把电源、散热、机架、后续电费一起摊进去,才是可对比的数字
- 问清是否带 NVLink 桥,SXM 方案缺了互联,多卡训练的收益会打折
- 供货状态和交期要写进对比表,交期长的渠道价格再低也要算进等待成本
- 口径参考 算力总览:规格与租用价格(/compute),总账算法见 买卡还是租卡:三年账怎么算(/compute/tco)
问价清单:拿到报价先核这几项
不管是租还是买,拿到一份报价先别急着对比数字。按下面顺序核一遍,对不上的项直接从候选里划掉,能省掉大量反复沟通的时间。
- 显存档位
- 80GB 还是 40GB,这一项决定它是不是你要的那块
- 接口形态
- SXM 还是 PCIe,带不带 NVLink,能不能进现有机器
- 交易类型
- 是租还是买,计价单位是什么,有没有最短租期或最低消费
- 附加费用
- 带宽、存储、公网出口、镜像、运维,哪些含哪些另算
- 供货状态
- 现货还是排期,交期多久,同价位下能立刻拿到的更值钱
这五项核完,再去站内对一遍行情。能租到的现货车源到 想租的卡现在到底有没有货(/compute/availability) 看,不同厂商的条款差异到 算力厂商横向比(/compute/providers) 对。
什么情况下不值得追 80GB
80GB 不是无脑更优。如果你的模型和批量都能塞进 40GB,多花的那部分钱换不来等量的产出,不如把钱留在多卡或者更长的租期上。先算清楚你到底需要多少显存,再决定要不要上高档位。
还有一种情况是训练任务。显存只是入场券,卡间互联带宽和集群规模才是真正的瓶颈。这时候该看整机方案的整体配比,而不是纠结单卡价格。选型思路可以参考 部署测算(/models/deploy) 和 几张卡够用:按模型算一遍(/compute/sizing)。
| 你的场景 | 建议档位 | 为什么 |
|---|---|---|
| 小批量实验、短任务 | 按需租 40GB 单卡 | 跑不满时长,包机不划算 |
| 推理并发不高 | 按需租,先跑再扩 | 显存余量用不上就是浪费 |
| 中等规模微调 | 40GB 多卡或 80GB 单卡,按互联条件选 | 看通信量,不只看显存 |
| 大规模训练 | 整机方案,看互联与集群 | 单卡价格不是主要矛盾 |
常见问题
A100 80GB 和 40GB 价格差多少?
没有固定倍数,档位、接口形态、租还是买都会让差距变动,而且行情本身也在走。靠谱做法是先确认你比的是同一档位同一形态,再分别到站内算力页面看当时的数字,拿两个真实数字相减才有意义。
租 A100 80GB 和直接买,哪个更划算?
看你一年实际要用多少小时。跑得满、周期长、任务连续,买或长期包机更划算;任务是阶段性的、每天只跑几小时,按需租更省,还能随时换档。算这笔账的框架可以直接套用站内的三年账对比方法。
报价里没写显存档位怎么办?
直接问,而且要问接口形态和计价单位。同一句「A100 多少钱」在不同渠道指向的东西可能完全不同,没写档位的价格不能拿来横向比。核不出来的报价先放着,去站内算力目录找标注完整的渠道对。