nvidia tesla v100 gpu 价格

成本与用量

讲清 V100 二手买断与租用两种拿卡方式的成本口径、比价前要对齐的变量,以及怎么判断它现在还值不值得上。

预算紧、又要跑本地推理或小规模微调的时候,很多人第一反应是找 V100:老卡、便宜、显存看着还行。但一问价就懵——二手整卡、整机、按小时租、包月租,报出来的口径完全不一样,甚至同一个卖家两次报价都不同。这篇不给具体数字,只给一套比价和判断的方法,让你到站内各页面对数字的时候知道该看哪几列、哪些条件不满足就别选它。

预算紧、又要跑本地推理或小规模微调的时候,很多人第一反应就是找 V100:老卡、单价看着不高、显存也算够用。可一开口问价人就懵了,整卡、整机、按小时租、包月租,四五个卖家能报出四五种口径,甚至同一个人上午下午给的数都不一样。

这篇不给你具体数字,只给一套比价和判断的方法。你拿着这套方法去站内各页面对数字,就知道该盯哪几列、哪些条件不满足就直接跳过它。记住一点:比价的前提是口径对齐,口径不对齐的报价比了也是白比。

先分清你买的是卡还是租的时间

买断和租用是两笔完全不同的账。买断买的是硬件本身,但硬件不会自己跑起来,你得再配主板、内存、盘、电源、散热、机位,这些零碎加起来经常比卡本身还让人心疼。租用买的是时间,报价单位通常是「卡时」或「整机时」,看起来简单,但里面含不含存储、带宽、公网出口,要一条条问清楚。

拿卡方式报价单位通常是什么容易被忽略的附加项
二手整卡一块形态与显存版本、成色、有无保修
整机买断一台主板内存盘、电源散热、机位电费、运维人力
按小时租卡时或整机时存储与带宽、是否独占、退租规则
包月长租整机时押金、阶梯价、超量部分怎么算

两种口径不能直接比。正确做法是:先把买断价摊到你实际能用满的月数上,再把租用按同一段负载时长累加起来,两边算成「同一段时间、同一份负载」的总支出,这才谈得上比价。自建还要把机位、电、运维人力算进去,这套三年账的算法到 /compute/tco 看,照着填就行。

报价差得离谱,多半是这几项没对齐

同一个型号报出明显不同的数,通常不是卖家乱喊,而是底下这几项没对齐。把这几项逐条问清楚,你会发现大部分价差都能解释得通,剩下的才是真正值得谈的差价。

  • 显存容量与卡型变体:不同显存版本、以及 SXM 与 PCIe 两种形态,本来就不在一个价位档,先确认对方说的是哪一种
  • 成色与来源:矿卡、拆机卡、带保卡,剩余寿命和故障率差别很大,而报价里通常只字不提
  • 是否整机:单卡价和带服务器整机价差一个量级,问价时先确认单位是「块」还是「台」
  • 交付方式:现货还是期货、要不要押金、退租或退货怎么算,这些会明显改变你的实际支出
  • 服务边界:含不含上架、调试、故障换卡,出了问题是补卡还是补时长

规格层面的对照,先去 /compute/gpus 把显存、形态、接口这些核对一遍,再拿着确认好的规格去谈价,能少扯很多皮。

具体数字去哪看,别靠记忆

这行的行情变得快,任何记在脑子里的数字都很快过期,写死在文章里更没意义。正确习惯是:下单前打开站内对应页面,看当期区间和涨跌方向,再用自己的合同条件去套。

租用行情
到 /compute/gpu-rental 和 /compute/price-index 看当期区间与涨跌方向
厂商与平台口径
到 /compute/providers 对照,注意各家标的是卡时还是整机时、含不含存储
自建与集群
到 /compute/clusters 看整机与集群方案对照,训练或微调负载再叠加 /compute/training-cost
按模型估规模
拿不准要几张卡,用 /compute/sizing 按模型和序列长度先估一遍

同一个时间点,不同页面上的数字对不上很正常,因为它们统计的口径、地域、合约类型都可能不同。最终以你实际要签的那份合同条件为准,页面数字只用来判断「这个报价偏离大盘没有」。

什么情况下别选它

判断值不值得上,别盯着单卡报价看,要看「单位有效吞吐的成本」——也就是跑完你的实际任务,总共花了多少、用了多久。同一张卡换个负载,结论可能正好相反。

  1. 先算显存够不够把模型参数量、精度、上下文长度代进 /compute/sizing 估一遍。如果单卡装不下、又要跨卡切分,互联带宽会先卡住你,这时候省下的卡钱会被人天补回去。
  2. 再看能不能接受它的短板低精度推理、上下文不长、并发不高的场景,它才可能划算;要做当下主流大模型的全量微调,优先换别的路子。
  3. 然后决定买还是租只是短时验证想法,按小时租,跑完就退;打算长期稳定在线,老卡的故障率和配件可得性都会拖后腿,先用租用试水更稳。
  4. 最后比总账把买断摊到能用满的月数,加上配套与运维,和同负载的租用总支出放在一张表里比,谁低选谁。

有一种情况上面这套不适用:如果你手头已经有现成的整机、机位和运维,边际成本只是插一张卡,那判断标准就变成「这块卡还能稳定跑多久」,而不是「整机方案划不划算」。

V100 划不划算,不取决于它多便宜,取决于你的负载能不能把它喂饱、并且愿意接受它的短板。
下一步把你要跑的模型和序列长度带进规模估算页,先确认几张卡够用,再拿着这个数去行情页和卖家报价对照,判断会准很多。

常见问题

同样一块 V100,为什么两个卖家报价差这么多?

大概率不是同一件东西:显存版本、SXM 还是 PCIe、成色与是否带保、单卡还是整机、含不含电源散热,任一项不同价格就会拉开。问价时先把这五项问清楚再比数字,具体区间到 /compute/gpu-rental 核对。

买二手卡和按小时租,哪个更省?

看你能用满多少小时。用得少、只是验证,租更省,还省掉电费和运维;能连续跑几个月且负载稳定,买断摊薄后才可能便宜。把两种方式都换算成「每月总支出」再比,算法参考 /compute/tco。

拿 V100 跑现在的模型还够用吗?

小模型推理、低并发服务、轻量微调一般够;大模型全量微调、长上下文高并发基本不够,瓶颈常在显存和卡间互联而不是算力。先按你要跑的模型到 /compute/sizing 估一遍需要几张卡,再决定要不要买。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。