很多人打算本地跑 DeepSeek,先看显存够不够,结果装到一半发现硬盘满了。权重文件、量化格式、推理框架缓存、再加下载解压的临时占用,加起来往往比你想的大一圈。这篇按参数量分档,把该留多少硬盘讲清楚,并给一套能自己算的步骤。
很多人打算本地跑 DeepSeek,第一步先去看显存够不够,结果模型装到一半提示磁盘空间不足。这种事挺常见的,因为权重文件在你点下下载的那一刻就开始占盘了,而显存不够往往还能靠量化降档绕过去,硬盘满了是真的装不进去。更坑的是,你以为只下一个模型文件,实际还有压缩包、解压临时文件、推理框架的缓存,三样叠在一起,占用会比你想的大一圈。
这篇不讲怎么配环境、怎么调参数,只把一件事讲清楚:按不同参数量和量化档位,硬盘到底该留多少。后面给一套能自己动手算的步骤,你换任何模型都能套。具体到当前版本的占用数字,站内有部署测算页,以那里核对为准,本文只给口径和方法。
先搞清:为什么硬盘会先于显存不够
显存不够的时候,程序通常会直接报错,你能马上看到。硬盘不够就不一样了,它可能是在下载到九成的时候才断,或者解压到一半失败,排查起来更绕。而且权重是静态占用,落盘之后一直占着,不会因为你不用就释放,这一点和显存动态分配完全不同。
- 权重是静态占用,下载那一刻就落盘,比显存更早暴露问题
- 同一模型不同量化格式、不同分发渠道,体积能差出一大截,别拿一个数当通用答案
- 框架缓存、Docker 镜像、临时解压目录常被忽略,加一起往往是额外的一整档空间
- 系统盘和数据盘混用,会把系统本身的空间也拖下水,出问题更难腾挪
按参数量的空间估算口径
估算不需要精确到个位,够用就行。核心就一个乘法:参数量乘上每参数占用的字节数,得到权重的粗略体积,再乘一个冗余系数。精度越低,每参数占的字节越少,但要注意量化不是无限缩,它有额外的元数据和分片开销,档位压得越狠,这部分占比反而越明显。
| 参数量档位 | 相对空间量级 | 适合的硬件场景 |
|---|---|---|
| 小参数量 | 最小一档,单盘轻松放下 | 单机试玩、验证流程 |
| 中等参数量 | 明显上升,需要专门留盘位 | 个人开发、小团队内部试用 |
| 大参数量 | 量级最大,往往要独立数据盘 | 有稳定硬件和运维能力的团队 |
为什么表里不写死数字,因为同一档位换个量化格式、换个分发渠道,体积就不一样,写死了反而误导。你在站内测算页看到的数,会跟着模型版本更新,比任何一篇文章里的固定值都可靠。
量化格式决定最终落盘大小
同样一个模型,换成不同量化格式,你在硬盘上看到的文件组织方式完全不一样。有的格式是单文件一把梭,有的切成好几个分片,还有的保留原始权重结构。文件少不代表占用小,分片多也不代表一定大,关键还是看每参数的有效字节数。
- GGUF 单文件
- 常见于本地推理工具,一个文件搞定,方便搬运和替换
- GPTQ / AWQ 分片
- 按层或按块切成多个文件,加载方式和显存占用策略不同
- 原始精度权重
- 文件最大,一般用于自己再做量化或做二次转换
选档位的时候要同时看两个约束:显存决定能不能跑起来,硬盘决定能不能装下去。只盯着其中一个,很容易出现跑得动但装不下、或者装得下但跑不动的尴尬。量化档位怎么取舍、每种格式的原理差异,可以到 /ai-dict/category/tech 先把概念对齐,再回来算空间。
权重之外还要留什么
权重只是入场券,装完能不能稳定用起来,还看这几样。很多人算空间只算权重,装完发现没地方放索引和日志,过两周又得挪盘。
- 下载解压的临时空间:压缩包和解压后的文件会短暂共存,峰值占用比最终占用高一截
- 推理框架的缓存与编译产物,某些框架在首次启动时会生成额外文件
- 知识库与向量索引,规模随你喂进去的文档量增长,不是一次性占用
- 对话记录与运行日志,长期跑起来会慢慢堆积,建议设定期清理或轮转
这些加起来的量级因用法而异,但方向是确定的:用得越久、喂的数据越多,权重之外的部分占比越高。规划盘位时把它当成一个持续增长的项,而不是一次性开销。
动手量一遍:三步确认够不够
- 查仓库文件大小打开模型仓库,把各个分片文件的大小加总,不要只看主文件。有些仓库会把配置文件、分词器文件单独列出来,这些也要算进去。
- 给目标盘留余量在权重估算值基础上再留出冗余,用来覆盖下载解压峰值和框架缓存。余量留多少取决于你的框架,如果走容器化部署,余量要更宽一些。
- 装完跑一次实测加载模型并跑一段长对话,观察盘位变化。如果加载过程中盘位先涨后落,说明有临时文件;如果一直涨不落,那部分就是需要长期预留的。
这三步走完,你对这台机器的空间需求就有自己的数了,之后换模型只用重算第一步,不用再从头摸索。想省事的话,先到 /models/deploy 看现成的测算口径,再拿自己的盘去比对。
只看硬盘不够,和显存内存一起算
硬盘、显存、内存是三个独立的约束,任何一个不够都会卡住,但表现完全不同。硬盘不够是装不上,显存不够是跑不动或报错,内存不够则常常表现为变慢。分清楚症状,才不会把内存问题误判成硬盘问题。
| 资源 | 不够时的典型表现 | 优先排查方向 |
|---|---|---|
| 硬盘 | 下载中断、解压失败、写入报错 | 剩余空间、临时目录、容器卷 |
| 显存 | 加载失败或直接报错退出 | 量化档位、批次大小、并行数 |
| 内存 | 加载很慢、运行时卡顿但不报错 | 后台进程、交换分区、模型分片加载 |
还有一个容易忽略的点:如果你打算同时留几个量化版本做效果对比,空间要按份数叠加算,而不是只算一份。对比研究是好事,但盘位规划得提前说清楚,别到时候删哪个都舍不得。
几种典型场景的空间规划
不同用法对空间的胃口差别很大,下面按常见场景给判断标准。具体数值仍以站内测算页为准,这里只讲怎么配。
- 单机试玩:装一份小参数量量化版就够,预留空间覆盖下载解压峰值即可,不用为多版本留位置
- 小团队内部服务:至少留两个版本用于回滚,加上备份和日志,盘位按单份的倍数准备
- 长期跑知识库:权重之外要给索引和数据留持续增长的空间,建议单独挂一块数据盘
- 容器化部署:镜像和卷分开看,重复镜像和悬空卷是最常见的隐形占用
装完发现不够:怎么腾空间
已经装到一半发现空间告急,别急着删权重,先按下面的顺序排查,很多占用是可以安全清掉的。
- 清下载缓存删掉压缩包和旧的下载记录,这类文件通常可以重新拉取,属于最安全的一类。确认模型已经完整解压后再删。
- 删旧量化版本如果你试过好几个量化档位,留一个正在用的即可,其余的删掉。删之前确认没有服务在引用这些路径。
- 迁移模型目录把模型目录整体挪到独立数据盘,用软链接指回原路径,避免和系统盘抢空间。挪之前先停掉所有加载服务。
- 检查容器占用容器化部署时清一下悬空镜像和无用卷,重复镜像往往占了大头。清理前先确认没有在跑的容器依赖它们。
如果这几步做完还是不够,那就是初始规划偏小,别硬撑。考虑加盘或者降一档参数量,比反复腾挪更省事。相关的部署测算和常见坑,可以到 /guides 的指南中心按需翻。
下一步把当前版本的权重体积和部署测算数字对一遍,再决定盘位够不够,别凭印象下手。→常见问题
本地跑 DeepSeek 到底要准备多大硬盘?
没有统一数字,取决于参数量和量化档位。先按参数量乘每参数字节数粗算权重,再给下载解压和框架缓存留出余量。站内部署测算页会按当前版本给到具体占用,去那里对一遍最稳。
权重文件大小和显存需求是一回事吗?
不是。权重是磁盘上的静态文件大小,显存需求还受推理框架、上下文长度、并发数影响,通常比权重体积更大。硬盘够不等于显存够,两件事要分开算。
换成更低的量化档位能省多少磁盘?
能明显省,但不是简单按比例缩。量化有额外的元数据和格式开销,档位越低体积收益越趋于平缓。建议把不同档位的实际文件体积列出来对比,而不是凭感觉估。
模型装在外接硬盘或网络盘上行不行?
能读,但加载速度受接口带宽影响,首次加载会明显变慢,跑起来后还可能因为读盘卡顿。要长期用,还是放本地 SSD 更省心,具体到 /compute/sizing 按你的整机方案核对。
硬盘空间不够会不会导致模型跑出错误结果?
一般不会直接影响输出质量,但加载失败、加载到一半中断、或者内存交换导致的极慢响应,都会让人误以为模型有问题。空间不够优先表现为跑不起来或很慢。