nvidia gpu多少钱

打算自己搭一台推理机器，第一反应就是搜「英伟达 GPU 多少钱」，结果翻出来一堆互相打架的数字：有人报几千，有人报几十万，还都说得头头是道。问题不在报价，在于每张卡的价格取决于显存、带宽、原厂还是整机、全新还是二手。这篇按选购顺序把变量拆开，给你分档思路、砍价前的核对清单和验价路径，数字一律到站内页面看当期值。

同一张卡为什么能报出好几个价

同一张卡搜出来的报价能差出一大截，很多时候不是卖家乱开价，而是大家说的根本不是同一件东西。先把口径拆开，你会发现价格主要由四个变量决定，而不是型号本身。

显存与带宽档位

同样的名字下面往往分不同显存容量和位宽版本，算力和能跑多大的模型都不一样，报价自然不在一个区间

原厂整机还是散卡

整机是把卡装进品牌服务器里一起卖，含平台、电源、散热和整机质保；散卡只有一张板卡，别的自己配

全新与二手/矿卡

全新有渠道发票和官方保修；二手、矿卡便宜但寿命和故障率不可控，通常没有可用的原厂保修

含不含税与保修

含税价、开票价、保修年限和是否上门，都会体现在数字上；拿不含税裸价去比含税整机价没有意义

把这四项对齐之后你会发现，价格差异的大头来自交易形态，而不是型号。同一档位的卡，散卡、整机、二手三种形态之间的跨度，通常比相邻两个档位之间的差距还大。所以询价前先做一件事：把你要的形态写成一句话，再去找报价。

1. 先定形态写清是买散卡自己装，还是买整机；是全新带票，还是接受二手。这一步不定，后面比价全是白比
2. 再定显存下限按你要跑的模型和并发量倒推需要的显存，先卡一个下限，再看这个下限之上有哪些档位可选
3. 统一报价口径把候选报价全部换算成同一口径：是否含税、是否带保修、是整机还是单卡、配件是否算进去
4. 去站内核对当时数字口径统一后，再到站内的价格页面看当期区间，避免拿几个月前的印象当现价

有一种情况不用在这上面纠结：预算卡得很死、又只打算跑小模型做验证。这时候档位之间的取舍意义不大，先把显存下限守住、把形态选对，比研究哪个型号更划算要实际得多。反过来，如果你要长期多卡并行、对稳定性和售后有要求，那形态和保修就得当成硬指标来筛，而不是只看单卡报价。

按预算分三档：入门试跑、主力生产、大显存长上下文

先别急着问一张卡多少钱，先想清楚你买它是拿来干嘛的。同一个型号，插在机箱里自己跑着玩，和放到线上给一堆人并发调用，该看的指标完全不一样。按用途粗分三档：入门试跑、主力生产、大显存长上下文。每档看的东西不同，预算该往哪花也不同。

• 入门档：目标就是「能跑起来」，别追求多快，量化后的权重装得下、跑得动就算赢；
• 主力档：要算并发和上下文长度，价格弹性最大，也最容易买多；
• 大显存档：钱主要花在显存和带宽上，先确认是真需要，还是被参数吓到了；
• 不管哪档，都别背数字，到站内看当期挂牌水平再定。

1. 先锁定档位写下你未来三个月的真实用途：只是自己试模型、还是要有别人在用。用途模糊就先按入门档配。
2. 再验需求主力档和大显存档，先用小配置跑一遍真实负载，看显存峰值和响应是否够用，别拿参数表拍脑袋。
3. 最后看当期数字定好档位和型号范围后，到站内价格页核对当时的挂牌水平，避免拿旧印象做预算。

买之前先算显存，而不是先看价格

先别急着比价，先算显存。因为同一张卡的显存大小决定了你能跑多大模型、能塞多长上下文，而这两个才是真正决定「这张卡值不值」的东西。价格只是结果，显存是原因。买之前先用三个量粗估占用：参数量、量化位数、上下文长度。

参数量

模型有多大，比如 7B、70B 这种规模，它决定权重部分的基础占用

量化位数

每个参数用几位存，位数越低越省显存，但精度和稳定性会掉

上下文长度

一次能塞进多少 token，这部分会额外吃显存，且随长度增长

并发系数

你要同时服务几个请求，等于把上面的估算再乘一个倍数

粗估顺序是：先按参数量和量化位数算出权重占用，再加上上下文带来的 KV 缓存，最后乘并发系数，还要留出一部分给框架本身和碎片。算完你会得到一个「最低显存门槛」，拿这个门槛去筛卡，而不是反过来先看便宜不便宜。

1. 第一步：算权重用参数量乘量化位数再除以 8，得到权重占用的粗略下限，心里有个数就行，别抠精确值
2. 第二步：加上下文把你要支持的上下文长度代进去估 KV 缓存，长度翻倍这部分也跟着涨，长上下文场景尤其明显
3. 第三步：乘并发按你实际要同时处理的请求数乘一个系数，单人自用和对外提供服务完全是两码事
4. 第四步：留余量在结果上再加一部分给框架、激活值和显存碎片，然后拿这个总数去对照候选卡的显存规格

算完门槛之后，最容易被漏算的不是卡本身，而是「显存不够要加卡」引发的连锁成本。加一张卡，主板要够多的插槽和通道，电源要重新算功率余量，机箱要装得下、风道要能吹透，散热可能从风冷升级到更强方案。这些加起来经常不比卡便宜多少，却很少有人在下单前算进总预算。

这条思路不是万能的。如果你只做批量离线任务，对响应速度不敏感、能接受慢慢跑，那完全可以牺牲速度换小显存，用时间换硬件预算，这时候上面那套并发系数和余量就不用卡那么死。反过来，只要涉及在线服务、多人并发或者长上下文，显存门槛就没有商量余地，省下的卡钱会以更贵的方式还回去。具体到某一档显存对应的卡和当时的行情价，去站内价格页面核对，别拿记忆里的数字下判断。

全新、二手、整机、租用：四条路的取舍

同样一张卡，买全新、买二手、买整机、按天租，第一天的支出能差出好几倍，但三年下来的账未必是同一个排序。先想清楚你的负载是长期跑满还是偶尔冲一波，再决定钱花在哪条路上，否则很容易出现「省了首付、赔了时间」的情况。

判断自建还是租用，别凭感觉，用一个简单的问题：这台机器一年里大概有多少天是真正在跑任务的。如果大部分时间都在满载，自建摊薄下来更合适；如果只是阶段性用，比如几周的模型验证，那先租反而更清醒。具体每档算力当时的租金区间，去 GPU 租用行情页（/gpu-rental） 核对当时的数字，别拿记忆里的旧价做决策。

• 二手卡先问清使用时长与是否长期满载，矿卡与 7x24 训练卡的老化程度不一样；
• 确认是否还在保修期内、能不能提供购买凭证，过保卡等于把维修风险全接过来；
• 到手先跑压力测试看温度、显存错误和掉卡情况，有问题趁早退；
• 把可能的返修成本算进预算，省下的差价有时刚好被一次维修吃掉。

整机和散件的取舍，其实是把「时间成本」折成钱。整机方案溢价明显，但省掉了选主板、配电源、对机箱风道这些事；散件便宜，代价是兼容问题得自己扛，出故障也要自己定位。如果团队里没人愿意折腾硬件，整机的溢价就当买了保险。反过来，如果只是想短期验证，两条路都不如先租。

1. 列三年总持有成本把购机费、电费、机位与散热、维保、可能的维修、三年后残值都写进一张表，别只看第一天掏多少。
2. 标出不确定项哪一项你没法估准，就先按保守值算，比如电费按满载、维修按一次换件。
3. 和租用做同口径对比把租用按同样的年限和负载折算，用站内页面的当时报价代入，而不是用印象里的价格。
4. 设一个复盘点每半年回看一次实际利用率，长期跑不满就该考虑转租或出手，别硬扛沉没成本。

除了卡本身，还有哪些钱必须进预算

很多人算 nvidia gpu 多少钱，只盯着卡本身那张发票。真上手跑起来会发现，卡的采购价往往只是入场券，后面还有一串按月、按年往外掏的钱。把这几项摊开算一遍，你对「这张卡到底多贵」的判断会完全不一样。

电费

按整机功耗而不是单卡功耗算，CPU、主板、风扇、交换机都算进去，乘上每天实际运行小时数

散热

风冷要算机房空调或独立空调的额外负荷，水冷还要算冷排、水泵、接头和漏液风险的维护成本

机位与噪音

多卡机器噪音大，放办公室影响同事，放家里影响家人，隔音改造或单独租机位都是钱

网络带宽

多机训练时数据要来回搬，带宽不够就会卡在等数据；专线、交换机端口、流量费用都要提前问

运维人力

驱动、CUDA 环境、故障排查、备件更换，默认是要占掉一个人一部分工作时间的

最容易漏掉的是闲置成本。卡买回来不是一直在跑满，晚上、周末、任务排队等待、模型调参空转，这些时间电费照付、机位照占、折旧照走。换句话说，闲置的卡等于持续烧钱，而且烧得无声无息。做预算时不要假设满负荷运转，按一个你实际能维持的利用率去估，剩下的差额就是闲置代价。

也不是所有团队都要把这部分权重拉满。如果你的卡是插进公司已有服务器机房里，电费和机位本来就走公司账、也不额外增加噪音影响，那电费、散热、机位这几项对你来说更像内部结算，实际增量有限，可以调低权重甚至先不计入个人预算。反过来，自建、放办公室、放家里的，这几项一项都跑不掉。

1. 先把整机功耗问清楚不要只查卡本身的标称功耗，问清楚整机配置，用整机口径去乘运行小时数，再对照公司电费单价
2. 估一个真实的利用率按你预期每周实际满载多少小时来算，留出调试、排队、空闲的时间，算出来的电费和折旧才是你真实要承担的
3. 确认场地条件看机位有没有、噪音能不能接受、空调够不够、电力回路撑不撑得住，任何一项不行都会变成额外支出
4. 把长期项折算成月成本电费、带宽、运维这些按月或按年发生的，折算成每月固定支出，和一次性采购价放在一起看，预算才完整

下单前的核对清单

动手付钱之前，先把这张清单对一遍。麻烦的地方不在于卡本身，在于卡和你的机器、你的模型、你的售后预期是否合得上。任何一项打问号，都别急着下单。

1. 先算显存够不够把目标模型的权重占用、推理时的上下文长度、并发路数一起估出来，再乘一个安全系数。只看「能加载」不够，长上下文和高并发才是吃显存的大头。拿不准就按你真实要跑的最长输入去试算，而不是按宣传口径里那种短提示。
2. 再查主板、电源、机箱重点看插槽代际和通道数、卡的厚度占几个槽位、电源额定功率和供电接口数量、机箱能不能塞下卡长和风道是否直吹。供电接口转接线要单独确认是否随卡附赠，自己配的线材规格也不能含糊。
3. 然后问清保修与退换确认保修时长、起算方式（按发票还是按出厂）、是否个人送保还是必须走经销商、异地送修的运费谁承担。退换条件要问「拆封后能不能退」「装了散热器还认不认保」这类具体情形。
4. 最后问售后能力问清能不能换卡、换的是同型号还是折价、备件周期大概多少天、有没有备用卡可借。做长期跑推理的，停机成本比卡价敏感得多。

• 显存留出余量，别按刚好塞满来配
• 电源别卡在临界值，供电接口数量要数清
• 确认发票类型，报销和保修都可能用到
• 把退换条件问成一句话，最好落在聊天记录或合同里
• 备件周期写在订单备注或沟通记录里，别只靠口头

去哪查当期数字，别背价格

问「多少钱」的人，十个里有八个想要一个能直接说出口的数。但 GPU 价格是活的：同一张卡，买断和按小时租是两套账，新卡和二手卡是两个池子，官方渠道和第三方渠道又是两个价。所以别背价格，记住四个查询动作就行：查规格、比价位、看趋势、折成本。

1. 先锁定型号范围别从价格反推型号。先去站内规格库，按显存和用途筛出两三个候选，把型号定下来。型号没定，后面所有比价都是白比。
2. 同一档位横向过一遍拿定好的型号去站内算力与租用比价页面，把买断、按月租、按小时租几种形态摆在一起。注意看计价单位是否一致，有的按卡时报，有的按整机月报。
3. 波动大的去看趋势新卡上市前后、矿潮退潮、换代窗口，这几类时段单点报价参考价值很低。打开站内价格追踪页面看曲线，确认是在爬坡还是在下坡，再决定现在动手还是再等。
4. 折算成小时成本再拍板用站内换算工具把一次性支出摊到预期使用时长上，加上电费和折旧，得到一个每小时的数字。拿这个数字和租卡价对比，差距不明显的就别急着买。

• 只看一个渠道的报价就下结论——多渠道对一遍再说话
• 把整卡价直接除以天数当成本——没算电费、折旧和闲置时间
• 拿半年前记下的数字当参考——价格追踪页面的曲线才是当期事实
• 忽略计价单位——按卡、按机、按月混着比，结论必然错
• 把峰值报价当成常态——波动品类要看区间，不看最高点

哪些情况其实不建议自建

先别急着下单买卡。自建 GPU 这件事，买卡只是第一笔钱，后面还有机位、电费、散热、坏卡替换、驱动和框架升级、以及最容易被忽略的『人』。下面三种情况，只要你占了一条，就更适合先租而不是先建。

• 调用量波动大：先按量付费，等曲线稳定了再说自建
• 模型能力靠官方接口就能满足：别为了『感觉便宜』去自建
• 短期项目或验证阶段：弹性比固定资产划算
• 团队没人能接手运维：买回来就是给自己找活
• 预算只算了卡钱、没算电和运维：大概率会超

1. 先看用量曲线把最近几个月的调用量拉出来，看峰谷差有多大、是否长期稳定。如果峰谷差明显、没有稳定基线，先租。
2. 再确认模型能力用官方接口跑一遍你的真实任务，看能不能达标。能达标就别自建，自建只是把接口费换成运维成本。
3. 最后算人的成本问团队里谁负责装驱动、盯告警、换坏卡。没人认领，就说明现在还不具备自建条件。

按量付费

用多少付多少，不用就停，适合曲线不稳或试错阶段

自建

一次性买卡加长期运维，适合用量稳定且有人管

弹性

业务涨了能马上加、业务停了能马上停，短期项目最看重这个