打算攒一台能跑本地大模型的机器，最容易卡在两件事上：一是照着别人的配置单买，结果模型装不进去或者跑得慢到没法用；二是把预算全砸在算力上，忽略了显存、带宽和电源这些真正卡脖子的地方。这篇不讲具体型号和跑分，只给一套按需求倒推硬件的判断顺序，以及买之前该逐条核对的清单。
想攒一台能跑本地大模型的机器，卡住的往往不是「买哪张卡」，而是顺序搞反了：先盯上某张卡的参数，再回头问自己能跑什么模型，结果模型装不进去，或者跑得慢到没法用。正确的做法是反过来，先写清楚自己要跑什么，再倒推需要什么硬件，最后才去挑具体型号。
这篇不报具体型号和跑分，只给一套判断顺序和买前核对清单。凡是涉及当前价格、规格、供给水位的，都建议你去站内对应页面看当时的数字，硬件市场变动快，写死的结论很快就不作数了。
先算显存，再谈其他参数
显存是硬门槛，装不进去就是跑不了，算力只决定快慢。这个顺序不能反，反了就会出现「卡很贵但模型跑不动」的尴尬。做法很简单：把你要跑的模型参数量、量化精度、上下文长度三项写下来，去 /models/deploy 按当时的测算口径过一遍，得出一个显存区间，再拿这个区间去筛卡。
- 列需求写下模型参数量、打算用的量化档位、常驻上下文长度，以及有没有并发需求。四项缺一项，估算就会偏。
- 过测算拿这四项去 /models/deploy 走一遍当时的测算口径，得到一个显存下限，再往上留余量。
- 留余量权重之外还要给 KV 缓存、框架开销和并发留空间，只按权重买卡通常第一次加载就爆显存；余量怎么留参考 /compute/sizing 的算法思路。
- 定档位不同量化档位的画质、速度取舍，去 /ai-dict/category/tech 和相关科普页确认，别只看「能跑」这三个字。
这一节的常见反例是：先看中一张卡，再去凑模型。这种情况下你其实不是在选显卡，是在给自己找理由。什么情况下可以例外？如果你只是偶尔试跑小模型，对速度不敏感，那可以宽松一点；但只要涉及稳定使用，就严格按需求倒推。
显存够了之后，还要看带宽、供电和扩展
显存达标只是过了第一关。第二关是带宽、供电和扩展，这三项决定你以后用起来顺不顺、能不能升级。下面就按买前需要核对的顺序展开。
| 核对项 | 为什么重要 | 去哪核对 |
|---|---|---|
| 显存带宽 | 同样显存的两张卡，跑同一个模型出字速度体感差别可能很明显 | /compute/gpus 看当时规格 |
| 电源功率与接口 | 多卡方案的电源功率、供电接口数量不够，买回来点不亮 | 装机前按整机功耗自己算一遍 |
| 机箱长度与散热 | 卡太长塞不进、散热空间不足会降频 | 下单前量机箱内长和槽位间距 |
| 主板 PCIe 通道 | 决定以后能不能加卡、加卡后会不会互相降速 | 看主板手册的通道分配说明 |
扩展性要提前想清楚：现在够用不代表以后够用。双卡起步的方案，现在就要把槽位和电源余量留出来，不然以后加卡等于换整机。如果你的需求本来就不会增长，比如只是固定跑一两个小模型，那这一条可以不那么较真。
- 带宽当第二指标：显存达标后，优先比较带宽而不是算力数字
- 供电先算后买：整机峰值功耗、接口类型、电源余量三项都要对一遍
- 机箱预留空间：多卡要考虑槽位间距和风道，不是只看长度
- 主板留通道：打算以后加卡，就现在确认通道够不够、会不会降速
显存决定你能不能跑，带宽决定你愿不愿意跑，供电和扩展决定你能跑多久。
全新、二手、租卡三条路怎么分
买卡不是唯一出路，也不是所有人的最优解。三条路——全新、二手、按量租——的分界，主要看你的使用频率、数据是否必须留在本地、以及能接受的折腾程度。别一上来就买，先用下面的对照走一遍。
| 你的情况 | 更适合的路径 | 理由 |
|---|---|---|
| 只做验证、短期实验 | 按量租卡 | 不用承担折旧和电费，随时可停 |
| 长期高频跑、数据不出内网 | 买卡（全新或二手） | 数据留在本地，长期摊薄成本 |
| 预算紧、能接受折腾 | 二手卡，但要逐项验机 | 先确认是否矿卡、显存是否掉容、驱动兼容性 |
| 需求还在变、方向没定 | 先租后买 | 等需求稳定再花钱，避免买错 |
判断买还是租，可以参考 /compute/tco 的三年账思路，把购卡成本、电费、折旧、以及可能的换卡损失一起算进去，看看到底哪条路划算。电费这笔单独算，口径见 /compute/power。二手卡不是不能买，但要先确认来源、显存是否掉容、驱动与框架能不能配合，拿不准就先在 /compute/availability 看当时的供给和价格水位，再决定要不要出手。
几种常见的踩坑情形
下面这些不是理论上的可能性，是买卡时反复出现的判断错误。买之前逐条对一遍，能省掉不少退换货和后悔的时间。
- 只看算力数字不看显存：买回来发现模型根本装不下，或者必须量化到质量明显下降的档位才能跑
- 忽略整机配套：卡买回来了，电源不够、机箱塞不下、主板通道不够，多花的钱比卡本身还多
- 拿别人的跑分当自己的预期：别人的框架、并发、上下文设置都不一样，先到 /tools/speed-test 量出自己的延迟基线再判断够不够用
- 忽略软件适配：部分卡在某些推理框架上支持有限，部署前先到 /ai-dict/category/infra 和部署类页面确认适配情况
- 被「以后能升级」说服：预留了扩展位但电源和机箱没跟上，升级时发现还得整机换
遇到拿不准的情况，处理顺序是：先确认需求（模型、量化、并发），再确认整机能不能装、能不能供电，最后才比价格和型号。价格和规格这类会变的信息，一律到 /compute/gpus 和 /price-watch 核对当时的数字，不要用几个月前的印象做决定。
下一步把你要跑的模型、量化档位、上下文长度写成三行，再去按显存倒推配置，顺序对了，踩坑的概率就低一大半。→常见问题
显存和算力只能保一个的话，先保哪个？
先保显存。显存不够模型直接装不进去，等于这张卡完全用不了；算力弱只是出字慢一点，还能靠量化、减少并发来凑合。所以顺序是先确保显存能装下你要跑的模型加上余量，再在预算里挑算力更高的。前提是你的任务对速度不是硬要求，如果是要对外提供服务的场景，速度就是可用性问题，得两头一起算。
买回来发现跑不动，是先换卡还是先降量化？
先降量化，成本最低。把精度往下调一档，显存占用会明显下降，代价是输出质量可能变差，具体损失多少要看任务类型，可以去 /ai-dict/category/tech 把量化相关概念过一遍再决定能接受到哪一档。如果降到质量已经不能接受还是跑不动，说明是卡买小了，这时候再考虑换卡或者改成租卡。
预算有限，是先买一张好卡还是两张普通卡？
看你的模型能不能拆。单卡装得下的模型，一张好卡通常比两张普通卡省心：少一组供电散热问题，也少一层并行带来的调试成本。只有当单卡显存怎么都不够、必须多卡拼显存时，双卡方案才有意义，而且要先确认你的推理框架支持这种切分方式。拿不准就用 /compute/sizing 按模型算一遍再定。
