nvidia tesla v100 价格

成本与用量

给自建算力团队讲清专业显卡行情怎么看、什么渠道报价可比、下单前要核对哪些项,避免拿二手散卡价去比整机方案。

自建算力最容易踩的坑,是拿论坛里的一个数字当行情:有人报的是单卡裸价,有人报的是带散热带保修的整机分摊价,还有人报的是租用月租。这篇不讲死数字,只给一套看价、比价、下单前核对的顺序,让你在算力平台的规格库和租用比价页之间来回对一遍,再决定买还是租。

自建算力最容易踩的坑,是拿论坛里的一个数字当行情。有人报的是单卡裸价,有人报的是带散热带保修的整机分摊价,还有人报的是按小时租用的折算价,这三种数字放一起比,结论一定是错的。这篇不给你一个具体数,只给一套看价、比价、下单前核对的顺序,让你在算力平台的规格库和租用比价页之间来回对一遍,再决定买还是租。

思路很简单:先把报价口径统一,再把配套成本和保修风险摊进去,最后按自己的负载形态判断买还是租。每一步都能在站内找到对应的页面核对当时的数字,别用记忆里的旧价格去砍价,也别拿二手散卡价去比整机方案。

同一张卡的报价为什么差好几倍

看到一张卡报出很低的价,第一反应不是捡漏,而是问清楚这是什么口径。单卡裸卡、整机分摊、整机含散热与电源、云上按小时租,这四种价格各有各的前提,混着比只会得出错误结论。先把口径对齐,再谈贵不贵。

  • 分清报价口径:单卡裸卡、整机分摊、整机含散热与电源、按小时租用,这四种没有可比性;
  • 看清卡的来源:全新原厂、渠道库存、拆机卡、矿卡翻新,剩余寿命和保修政策完全不同,报价自然分层;
  • 显存版本和散热形态会拉开价差,被动散热版和主动散热版面向的机箱不同,不能只比数字;
  • 具体区间到 加速卡规格库(/gpus) 和 算力总览(/) 按当时数据核对,别用旧数字去谈价。
报价口径通常包含什么常见坑
单卡裸卡只有卡本体不含散热、电源、保修
整机分摊卡加主板电源机箱分摊方式不透明
整机含散热整机加风道与备件噪音功耗被低估
按小时租用算力加运维长期跑单次成本高

比价前先对齐的几项口径

比价不是打开两个网页看数字,而是先把两边的前提对齐。算力单位、配套成本、保修和备件,这三块不摊进去,比出来的差价往往经不起一次故障。下面几项每一条都能落到具体动作上。

  1. 统一算力单位把单卡算力、整机算力、按小时租用还是一年买断写在同一张表里,混着比一定得出错的结论。
  2. 摊配套成本主板、电源、机箱风道、机房电费、运维人时都要计入,小规模自建里这几项常比卡本身更容易被低估。
  3. 算保修和备件有原厂保修的卡贵一些但停机风险低,没有保修的卡省下的钱可能一次故障就还回去,把停机损失也算进去。
  4. 跑三年总账买卡还是租卡先按三年跑一遍测算,参考 指南中心(/guides) 里买卡还是租卡的思路,再回头看卡的绝对价格。

这几步做完,你手里应该有两列数字:一列是买断三年摊下来的成本,一列是租用同样负载三年的成本。差得不多时优先选租,差得明显再考虑买,别倒过来。

什么样的团队适合买,什么情况该租

买和租不是谁更高级,而是看你的负载形态。长期稳定跑固定负载、机房条件已经具备的团队,买卡的单次成本更容易摊薄;负载波动大、项目还在验证期的团队,租用或按量更划算。判断标准要落到显存和并发上,不能只看单价。

  • 显存需求先算清楚:模型权重、KV 缓存、并发批量三块加起来才是真实占用,估错会直接买少或买多;
  • 按几张卡够用先算一遍再决定卡型和张数,别先买卡再想办法塞进去;
  • 负载波动大的团队优先租,按量付费把闲置风险留给平台;
  • 团队没有运维能力时先别买卡,租算力或直接用官方 API 更省心。

什么情况下不适用:如果只是偶尔跑推理、或者团队没有机房和运维,买卡基本是把固定成本换成闲置成本,这时候租用或者走 API 更合适。反过来,负载稳定、有运维、机房现成的团队,租用长期算下来通常不划算。

找谁买、下单前核对什么

渠道分几类:原厂与授权代理、二手交易平台、算力平台整机打包、云厂商整机租用,各自的风险和售后路径不一样。下单前逐项确认,缺一项就要谨慎。海外采购还要额外算汇率、关税和物流时间,成本口径参考 价格追踪(/price-watch) 里外币结算那条。

渠道类型适合谁主要风险
原厂与授权代理要长期稳定运行的团队单价偏高,交期长
二手交易平台有验货能力的团队无保修,来源不透明
算力平台整机想省搭建时间的团队配置锁定,升级不灵活
云厂商租用负载波动大的团队长期成本可能更高
  • 序列号可查:到货前让对方给出可验证的序列号,记下来可追溯;
  • 支持验货:约定开箱验货或到货后自己复测,别接受不验不退;
  • 保修起止时间写进合同,口头承诺不算;
  • 发票类型提前确认,关系到后续能不能入账和保修;
  • 退换条件写清楚,尤其是运损和到货不符的处理方式;
  • 要求对方给实测信息而不是宣传页数字:实际功耗、噪音、温度墙、跑分环境,最好约定到货后自己复测。
报价不是行情,口径对齐之后的报价才是行情。
下一步先去规格库把候选卡型的显存和功耗记下来,再去价格追踪和指南中心核对当时的行情与买租测算,两边对齐之后再谈单卡价格,不容易被带偏。

常见问题

为什么同一个型号有人报的价差特别大?

多半不是卡不一样,而是口径不一样。单卡裸价、整机分摊价、含保修价、租用价是四种东西,放在一起比就会觉得行情混乱。先问清楚对方报的是哪一种,再拿去和算力总览、加速卡规格库里的对应口径比,才有意义。

买二手卡自建,哪些风险必须先接受?

主要是三块:没有原厂保修、剩余寿命不可控、散热和电源要自己配齐。如果团队没有硬件运维能力,或者项目时间紧经不起停机,省下的采购差价很可能被一次故障吃掉。这种情况下租算力或用托管推理更稳,先按几张卡够用算一遍再定。

买卡和租卡,怎么判断哪条路更适合自己?

看负载稳定性和时间跨度。长期满负荷、机房条件已具备,买卡更容易摊薄;项目还在验证、用量起伏大,租用或按量的试错成本低得多。可以把两种方式都按同一个使用强度折算到每月口径再比,参考买卡还是租卡那条三年账的做法。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。