DeepSeek本地部署需要多大空间

模型与算力

按参数量与量化档位,估算 DeepSeek 本地部署需要多少磁盘空间,含模型权重、缓存与预留空间的完整算法。

很多人打算本地跑 DeepSeek,先看显存够不够,结果装到一半发现硬盘满了。权重文件、量化格式、推理框架缓存、再加下载解压的临时占用,加起来往往比你想的大一圈。这篇按参数量分档,把该留多少硬盘讲清楚,并给一套能自己算的步骤。

很多人打算本地跑 DeepSeek,第一步先去看显存够不够,结果模型装到一半提示磁盘空间不足。这种事挺常见的,因为权重文件在你点下下载的那一刻就开始占盘了,而显存不够往往还能靠量化降档绕过去,硬盘满了是真的装不进去。更坑的是,你以为只下一个模型文件,实际还有压缩包、解压临时文件、推理框架的缓存,三样叠在一起,占用会比你想的大一圈。

这篇不讲怎么配环境、怎么调参数,只把一件事讲清楚:按不同参数量和量化档位,硬盘到底该留多少。后面给一套能自己动手算的步骤,你换任何模型都能套。具体到当前版本的占用数字,站内有部署测算页,以那里核对为准,本文只给口径和方法。

先搞清:为什么硬盘会先于显存不够

显存不够的时候,程序通常会直接报错,你能马上看到。硬盘不够就不一样了,它可能是在下载到九成的时候才断,或者解压到一半失败,排查起来更绕。而且权重是静态占用,落盘之后一直占着,不会因为你不用就释放,这一点和显存动态分配完全不同。

  • 权重是静态占用,下载那一刻就落盘,比显存更早暴露问题
  • 同一模型不同量化格式、不同分发渠道,体积能差出一大截,别拿一个数当通用答案
  • 框架缓存、Docker 镜像、临时解压目录常被忽略,加一起往往是额外的一整档空间
  • 系统盘和数据盘混用,会把系统本身的空间也拖下水,出问题更难腾挪

按参数量的空间估算口径

估算不需要精确到个位,够用就行。核心就一个乘法:参数量乘上每参数占用的字节数,得到权重的粗略体积,再乘一个冗余系数。精度越低,每参数占的字节越少,但要注意量化不是无限缩,它有额外的元数据和分片开销,档位压得越狠,这部分占比反而越明显。

参数量档位相对空间量级适合的硬件场景
小参数量最小一档,单盘轻松放下单机试玩、验证流程
中等参数量明显上升,需要专门留盘位个人开发、小团队内部试用
大参数量量级最大,往往要独立数据盘有稳定硬件和运维能力的团队

为什么表里不写死数字,因为同一档位换个量化格式、换个分发渠道,体积就不一样,写死了反而误导。你在站内测算页看到的数,会跟着模型版本更新,比任何一篇文章里的固定值都可靠。

量化格式决定最终落盘大小

同样一个模型,换成不同量化格式,你在硬盘上看到的文件组织方式完全不一样。有的格式是单文件一把梭,有的切成好几个分片,还有的保留原始权重结构。文件少不代表占用小,分片多也不代表一定大,关键还是看每参数的有效字节数。

GGUF 单文件
常见于本地推理工具,一个文件搞定,方便搬运和替换
GPTQ / AWQ 分片
按层或按块切成多个文件,加载方式和显存占用策略不同
原始精度权重
文件最大,一般用于自己再做量化或做二次转换

选档位的时候要同时看两个约束:显存决定能不能跑起来,硬盘决定能不能装下去。只盯着其中一个,很容易出现跑得动但装不下、或者装得下但跑不动的尴尬。量化档位怎么取舍、每种格式的原理差异,可以到 /ai-dict/category/tech 先把概念对齐,再回来算空间。

权重之外还要留什么

权重只是入场券,装完能不能稳定用起来,还看这几样。很多人算空间只算权重,装完发现没地方放索引和日志,过两周又得挪盘。

  • 下载解压的临时空间:压缩包和解压后的文件会短暂共存,峰值占用比最终占用高一截
  • 推理框架的缓存与编译产物,某些框架在首次启动时会生成额外文件
  • 知识库与向量索引,规模随你喂进去的文档量增长,不是一次性占用
  • 对话记录与运行日志,长期跑起来会慢慢堆积,建议设定期清理或轮转

这些加起来的量级因用法而异,但方向是确定的:用得越久、喂的数据越多,权重之外的部分占比越高。规划盘位时把它当成一个持续增长的项,而不是一次性开销。

动手量一遍:三步确认够不够

  1. 查仓库文件大小打开模型仓库,把各个分片文件的大小加总,不要只看主文件。有些仓库会把配置文件、分词器文件单独列出来,这些也要算进去。
  2. 给目标盘留余量在权重估算值基础上再留出冗余,用来覆盖下载解压峰值和框架缓存。余量留多少取决于你的框架,如果走容器化部署,余量要更宽一些。
  3. 装完跑一次实测加载模型并跑一段长对话,观察盘位变化。如果加载过程中盘位先涨后落,说明有临时文件;如果一直涨不落,那部分就是需要长期预留的。

这三步走完,你对这台机器的空间需求就有自己的数了,之后换模型只用重算第一步,不用再从头摸索。想省事的话,先到 /models/deploy 看现成的测算口径,再拿自己的盘去比对。

只看硬盘不够,和显存内存一起算

硬盘、显存、内存是三个独立的约束,任何一个不够都会卡住,但表现完全不同。硬盘不够是装不上,显存不够是跑不动或报错,内存不够则常常表现为变慢。分清楚症状,才不会把内存问题误判成硬盘问题。

资源不够时的典型表现优先排查方向
硬盘下载中断、解压失败、写入报错剩余空间、临时目录、容器卷
显存加载失败或直接报错退出量化档位、批次大小、并行数
内存加载很慢、运行时卡顿但不报错后台进程、交换分区、模型分片加载

还有一个容易忽略的点:如果你打算同时留几个量化版本做效果对比,空间要按份数叠加算,而不是只算一份。对比研究是好事,但盘位规划得提前说清楚,别到时候删哪个都舍不得。

几种典型场景的空间规划

不同用法对空间的胃口差别很大,下面按常见场景给判断标准。具体数值仍以站内测算页为准,这里只讲怎么配。

  • 单机试玩:装一份小参数量量化版就够,预留空间覆盖下载解压峰值即可,不用为多版本留位置
  • 小团队内部服务:至少留两个版本用于回滚,加上备份和日志,盘位按单份的倍数准备
  • 长期跑知识库:权重之外要给索引和数据留持续增长的空间,建议单独挂一块数据盘
  • 容器化部署:镜像和卷分开看,重复镜像和悬空卷是最常见的隐形占用

装完发现不够:怎么腾空间

已经装到一半发现空间告急,别急着删权重,先按下面的顺序排查,很多占用是可以安全清掉的。

  1. 清下载缓存删掉压缩包和旧的下载记录,这类文件通常可以重新拉取,属于最安全的一类。确认模型已经完整解压后再删。
  2. 删旧量化版本如果你试过好几个量化档位,留一个正在用的即可,其余的删掉。删之前确认没有服务在引用这些路径。
  3. 迁移模型目录把模型目录整体挪到独立数据盘,用软链接指回原路径,避免和系统盘抢空间。挪之前先停掉所有加载服务。
  4. 检查容器占用容器化部署时清一下悬空镜像和无用卷,重复镜像往往占了大头。清理前先确认没有在跑的容器依赖它们。

如果这几步做完还是不够,那就是初始规划偏小,别硬撑。考虑加盘或者降一档参数量,比反复腾挪更省事。相关的部署测算和常见坑,可以到 /guides 的指南中心按需翻。

下一步把当前版本的权重体积和部署测算数字对一遍,再决定盘位够不够,别凭印象下手。

常见问题

本地跑 DeepSeek 到底要准备多大硬盘?

没有统一数字,取决于参数量和量化档位。先按参数量乘每参数字节数粗算权重,再给下载解压和框架缓存留出余量。站内部署测算页会按当前版本给到具体占用,去那里对一遍最稳。

权重文件大小和显存需求是一回事吗?

不是。权重是磁盘上的静态文件大小,显存需求还受推理框架、上下文长度、并发数影响,通常比权重体积更大。硬盘够不等于显存够,两件事要分开算。

换成更低的量化档位能省多少磁盘?

能明显省,但不是简单按比例缩。量化有额外的元数据和格式开销,档位越低体积收益越趋于平缓。建议把不同档位的实际文件体积列出来对比,而不是凭感觉估。

模型装在外接硬盘或网络盘上行不行?

能读,但加载速度受接口带宽影响,首次加载会明显变慢,跑起来后还可能因为读盘卡顿。要长期用,还是放本地 SSD 更省心,具体到 /compute/sizing 按你的整机方案核对。

硬盘空间不够会不会导致模型跑出错误结果?

一般不会直接影响输出质量,但加载失败、加载到一半中断、或者内存交换导致的极慢响应,都会让人误以为模型有问题。空间不够优先表现为跑不起来或很慢。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。