本地部署大模型推荐笔记本电脑

想在自己笔记本上跑大模型，最先卡住的往往不是装不上工具，而是不知道买哪台：商家只写显卡型号不写显存能不能被吃满，内存和硬盘又常常被忽略，买回来发现模型加载不了或者慢到没法用。这篇不推具体机型，只给一套按显存和预算倒推配置的判断顺序，让你去店里对参数时心里有数。

想在自己笔记本上跑大模型，最先卡住的往往不是装不上工具，而是不知道买哪台。商家页面只写显卡型号，不写显存到底够不够用；内存和硬盘又常常被一句话带过。买回来才发现模型加载不了，或者跑起来慢到没法用。这篇不推具体机型，只给一套按显存和预算倒推配置的判断顺序，让你去店里对参数时心里有数。

下面四节分别讲显存怎么定、量化档位怎么选、内存硬盘散热怎么查、下单前怎么对照。每节末尾都标了不适用的情况，别把任何一条当成铁律。数字类的行情会变，到站内对应页面看当时的参数就行。

先定显存档位，再谈品牌和预算

本地跑模型的第一约束是显存，不是处理器也不是硬盘。显卡型号里只有显存容量是硬门槛，同一型号不同版本显存可能差出一倍，下单前一定把容量数字单独确认一遍，别被型号名糊弄过去。

FP16 粗算

一 B 参数大约占两 G 显存，这是不打折的算法

INT4 粗算

大约是 FP16 的四分之一，但质量会有损失

额外开销

上下文长度、推理框架和缓存都会再吃掉一部分显存

集成显卡和统一内存架构的机器算法不太一样：显存和系统内存共享，能跑多大取决于你能划多少内存给它，不是看显卡叫什么都行。买这类机器前，先查清楚内存上限和可分配策略。

量化档位决定你能塞进哪台机器

同一台笔记本，换个量化档位就能从跑不动变成勉强能跑。所以选机器之前先想清楚你接受哪一档：质量优先就上大显存，能接受轻微掉分就用低比特量化。顺序是先定要跑哪类模型，再定量化档位，最后反推显存，而不是先买机器再想办法把模型塞进去。

低比特量化对小模型的质量损失更明显，参数越小的模型越不建议压得太狠；大模型压缩之后通常更耐造一些。另外量化格式和推理框架的兼容性也要对上，否则装完跑不起来。具体格式差异，到 模型底层概念随手对照（/ai-dict/category/tech） 先把名词过一遍。

别只盯显卡：内存、硬盘和散热同样卡人

• 系统内存要留够：加载权重、做 CPU offload 和跑长上下文都吃内存，内存不够会出现模型下好了但加载直接失败。
• 硬盘决定你同时放得下几个模型：权重文件动辄十几到几十 G，机身固态容量小就得反复删装，选型时把可用空间当成一个约束条件。
• 散热和持续性能是笔记本特有的坑：推理时 GPU 长时间满载，轻薄本容易降频，短测没问题、连着用就变慢。
• 内存是否可扩展要提前查清，很多轻薄本焊死不可换，后面想加都加不了。

这三项里，内存和硬盘属于加钱就能缓解的，散热基本由机身结构决定、买之后很难改。所以如果候选机器价格接近，优先选散热结构更扎实的那台。只做离线批处理、跑完就关机的话，散热和续航这些体验项的权重可以调低。

1. 第一步：抄参数把每台候选机器的显存、内存、可用硬盘空间抄成一行，放在一起对比。
2. 第二步：粗算一遍用前面说的换算方法估算你想跑的模型够不够，跑不动的那台直接划掉，不用纠结其它参数。
3. 第三步：核对散热查机身尺寸、出风口和是否支持性能模式，判断连续跑推理会不会明显降频。
4. 第四步：确认可扩展查内存和硬盘能不能自己加，不能加的话按未来需求往上选一档。

下单前的对照清单

前面的判断落到最后就是一张清单。把你想跑的两三个模型写下来，标好参数量和打算用的量化档位，到 AI 模型库（/models） 核对它们的规格，再开始比机器，顺序别反。

预算分配上，如果两边都能接受，优先加到显存和内存上，处理器和屏幕对跑模型的影响小得多。具体档位对应的价格区间会变，到 部署测算（/models/deploy） 按当时的参数算一遍再决定。别只看商品页的宣传话术，重点始终是显存容量、内存是否可扩展、散热结构这三项。

本地跑模型，先回答「显存够不够」，再回答「哪台好看、哪台便宜」。