本地部署的 deepseek-r1 如何删除

模型与算力

把本地部署的 DeepSeek-R1 彻底删干净:分清部署方式、按层卸载、清掉权重与缓存残留。

很多人删本地模型时只敲了一条卸载命令,以为完事了,结果磁盘还是满的,服务还在后台跑,重装时又冒出旧配置冲突。这篇按「先分清你当初怎么装的、再分层清理」的顺序走一遍,给你一份能照着执行的检查清单,覆盖 Ollama、llama.cpp、vLLM、Docker 和桌面客户端几种常见路径。

很多人删本地模型时只敲了一条卸载命令,以为就完事了,结果磁盘还是满的,服务还在后台跑,重装的时候又冒出旧配置冲突。这篇按「先分清当初怎么装的、再分层清理、最后验证没残留」的顺序走一遍,给你一份能照着执行的检查清单。

要覆盖的情况包括 Ollama、llama.cpp 或 LM Studio 这类直接跑权重的、vLLM 或 SGLang 起服务的、Docker 容器、以及桌面客户端内置下载这几种。不同路径删法完全不一样,先认准自己属于哪一种。

先搞清楚你当初是用什么装的

常见路径有五种:Ollama、llama.cpp 或 LM Studio 直跑权重、vLLM 或 SGLang 起服务、Docker 容器、桌面客户端内置下载。判断方法看三点:谁在监听端口、进程名长什么样、权重文件的后缀是什么。GGUF 一般指向 llama.cpp 或 LM Studio,safetensors 偏向 vLLM 或 transformers 系,blob 目录往往是 Ollama 的存储格式。

观察点看到的特征大概率属于哪条路径
进程名ollama serve 常驻Ollama
进程名llama-server 或 llama-clillama.cpp
端口默认 8000 左右有 API 在跑vLLM / SGLang
文件docker ps 里有容器Docker 部署
文件目录权重是 .gguf 单文件直跑权重
文件目录权重是 .safetensors 分片vLLM 系

同一条命令在不同路径下效果完全不同,认错路径的结果就是删了壳、留着权重。顺带记下模型名和量化档位,后面清理目录要靠它对号入座,不然容易漏掉一个同名目录。

按层卸载:服务、模型、权重、缓存

  1. 停服务先停进程再删文件,否则被占用删不掉。Ollama 停掉常驻进程,vLLM 之类直接 kill 掉对应的 python 进程,确认端口空了再往下走。
  2. 删模型注册项Ollama 路线先用 ollama list 确认名字,再执行 remove;llama.cpp 或 LM Studio 路线直接在文件系统里删模型文件。
  3. 清权重目录默认目录之外,如果你改过环境变量或启动参数,两处都要查。只删默认目录,等于没删干净。
  4. 清缓存和中间产物下载分片、格式转换的中间文件、显存或页缓存目录经常单独占几个 G,逐个翻一遍再删。
  5. 清 Docker 资源Docker 路线除了删容器,还要清镜像和挂载卷,卷不清,权重还在宿主机上躺着。

权重占用的量级和你在站内记录的部署口径可以对一下,具体数字到 /models/deploy 核对当时的口径,别凭感觉估。

删完怎么确认真的没残留

跑完删除动作不算结束,得验证。三板斧:列进程、查端口、扫大文件目录。三项都空了,才算这一层干净。

  • 列进程:再确认一遍没有相关进程复活,有些自启项会悄悄把服务拉起来
  • 查端口:之前监听的端口重新查一遍,确认没有东西还在响应
  • 扫目录:按文件名和目录大小两个维度扫,找出漏掉的权重或缓存
  • 对空间:把删除前后可用空间比一遍,对不上就说明还有东西没找到
  • 查配置:启动脚本、systemd 服务、开机自启项这些看不见的残留最容易漏
  • 改引用:CI 或脚本里写死过模型路径的,一起改掉,不然下次起服务直接报错

配置层残留是重装报错的常见原因,尤其是 systemd 单元文件和 shell 启动脚本。这类文件本身很小,很容易被忽略,但程序启动时会去读,读到旧路径就报错。

这些情况先别急着删

有些场景删了反而麻烦。只是想换量化档位或者换机器,权重本身可以迁移复用,删了要重新下载;多人共用的机器,删之前先确认没有别人的服务挂着同一个模型目录。

情况建议动作不适用说明
只想换量化档位保留权重,另存一份新档位磁盘实在不够才考虑删旧的
换机器部署先确认新环境能直接用再删旧机跨架构或依赖不一致时得重下
多人共用环境先问清楚谁的服用了这个目录自己独占的目录可以放心删
还在排查问题留一份备份,方便复现备份空间不够就导出最小复现配置
只是临时腾空间禁用服务比删权重更快,恢复成本也低长期不用才值得彻底清

拿不准自己这套到底属于哪种、残留清没清干净,可以先到 /tools/verify 跑一遍自测,确认没问题再动手删,省得删到一半卡住。要对比不同部署方式的资源占用,也可以到 /rankings 看当时的整理。

下一步先去 /models/deploy 对一下你这套部署的口径和目录习惯,再按上面的分层顺序执行,删完回到 /tools/verify 验证一遍,确认没残留才算收工。

常见问题

删了模型但磁盘空间没变化,是没删掉吗?

大概率是删了模型层没删权重层。先列一遍进程和端口确认服务停了,再按默认目录和自定义目录两边都扫一遍大文件;另外下载分片和转换中间产物往往单独占空间。对不上就说明还有目录没找到,别急着断定删除失败。

Ollama 里的模型删掉,和直接删文件夹有什么区别?

用 Ollama 自己的命令删会同步更新它的清单,重装或再拉同名模型时不会冲突;手动删文件夹容易留下清单记录,之后可能出现列表里有、实际跑不起来的情况。所以走 Ollama 装的,优先用它自己的删除命令。

删掉之后想重新装一遍,有什么要先准备的?

先确认硬件和空间够不够,别删完发现新版本跑不动。部署测算和显存口径到 /models/deploy 核对,磁盘需求可以参考 /models 里的模型资料,装之前把网络和镜像源也准备好,省得下到一半卡住。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。