很多人删本地模型时只敲了一条卸载命令,以为完事了,结果磁盘还是满的,服务还在后台跑,重装时又冒出旧配置冲突。这篇按「先分清你当初怎么装的、再分层清理」的顺序走一遍,给你一份能照着执行的检查清单,覆盖 Ollama、llama.cpp、vLLM、Docker 和桌面客户端几种常见路径。
很多人删本地模型时只敲了一条卸载命令,以为就完事了,结果磁盘还是满的,服务还在后台跑,重装的时候又冒出旧配置冲突。这篇按「先分清当初怎么装的、再分层清理、最后验证没残留」的顺序走一遍,给你一份能照着执行的检查清单。
要覆盖的情况包括 Ollama、llama.cpp 或 LM Studio 这类直接跑权重的、vLLM 或 SGLang 起服务的、Docker 容器、以及桌面客户端内置下载这几种。不同路径删法完全不一样,先认准自己属于哪一种。
先搞清楚你当初是用什么装的
常见路径有五种:Ollama、llama.cpp 或 LM Studio 直跑权重、vLLM 或 SGLang 起服务、Docker 容器、桌面客户端内置下载。判断方法看三点:谁在监听端口、进程名长什么样、权重文件的后缀是什么。GGUF 一般指向 llama.cpp 或 LM Studio,safetensors 偏向 vLLM 或 transformers 系,blob 目录往往是 Ollama 的存储格式。
| 观察点 | 看到的特征 | 大概率属于哪条路径 |
|---|---|---|
| 进程名 | ollama serve 常驻 | Ollama |
| 进程名 | llama-server 或 llama-cli | llama.cpp |
| 端口 | 默认 8000 左右有 API 在跑 | vLLM / SGLang |
| 文件 | docker ps 里有容器 | Docker 部署 |
| 文件目录 | 权重是 .gguf 单文件 | 直跑权重 |
| 文件目录 | 权重是 .safetensors 分片 | vLLM 系 |
同一条命令在不同路径下效果完全不同,认错路径的结果就是删了壳、留着权重。顺带记下模型名和量化档位,后面清理目录要靠它对号入座,不然容易漏掉一个同名目录。
按层卸载:服务、模型、权重、缓存
- 停服务先停进程再删文件,否则被占用删不掉。Ollama 停掉常驻进程,vLLM 之类直接 kill 掉对应的 python 进程,确认端口空了再往下走。
- 删模型注册项Ollama 路线先用 ollama list 确认名字,再执行 remove;llama.cpp 或 LM Studio 路线直接在文件系统里删模型文件。
- 清权重目录默认目录之外,如果你改过环境变量或启动参数,两处都要查。只删默认目录,等于没删干净。
- 清缓存和中间产物下载分片、格式转换的中间文件、显存或页缓存目录经常单独占几个 G,逐个翻一遍再删。
- 清 Docker 资源Docker 路线除了删容器,还要清镜像和挂载卷,卷不清,权重还在宿主机上躺着。
权重占用的量级和你在站内记录的部署口径可以对一下,具体数字到 /models/deploy 核对当时的口径,别凭感觉估。
删完怎么确认真的没残留
跑完删除动作不算结束,得验证。三板斧:列进程、查端口、扫大文件目录。三项都空了,才算这一层干净。
- 列进程:再确认一遍没有相关进程复活,有些自启项会悄悄把服务拉起来
- 查端口:之前监听的端口重新查一遍,确认没有东西还在响应
- 扫目录:按文件名和目录大小两个维度扫,找出漏掉的权重或缓存
- 对空间:把删除前后可用空间比一遍,对不上就说明还有东西没找到
- 查配置:启动脚本、systemd 服务、开机自启项这些看不见的残留最容易漏
- 改引用:CI 或脚本里写死过模型路径的,一起改掉,不然下次起服务直接报错
配置层残留是重装报错的常见原因,尤其是 systemd 单元文件和 shell 启动脚本。这类文件本身很小,很容易被忽略,但程序启动时会去读,读到旧路径就报错。
这些情况先别急着删
有些场景删了反而麻烦。只是想换量化档位或者换机器,权重本身可以迁移复用,删了要重新下载;多人共用的机器,删之前先确认没有别人的服务挂着同一个模型目录。
| 情况 | 建议动作 | 不适用说明 |
|---|---|---|
| 只想换量化档位 | 保留权重,另存一份新档位 | 磁盘实在不够才考虑删旧的 |
| 换机器部署 | 先确认新环境能直接用再删旧机 | 跨架构或依赖不一致时得重下 |
| 多人共用环境 | 先问清楚谁的服用了这个目录 | 自己独占的目录可以放心删 |
| 还在排查问题 | 留一份备份,方便复现 | 备份空间不够就导出最小复现配置 |
| 只是临时腾空间 | 禁用服务比删权重更快,恢复成本也低 | 长期不用才值得彻底清 |
拿不准自己这套到底属于哪种、残留清没清干净,可以先到 /tools/verify 跑一遍自测,确认没问题再动手删,省得删到一半卡住。要对比不同部署方式的资源占用,也可以到 /rankings 看当时的整理。
下一步先去 /models/deploy 对一下你这套部署的口径和目录习惯,再按上面的分层顺序执行,删完回到 /tools/verify 验证一遍,确认没残留才算收工。→常见问题
删了模型但磁盘空间没变化,是没删掉吗?
大概率是删了模型层没删权重层。先列一遍进程和端口确认服务停了,再按默认目录和自定义目录两边都扫一遍大文件;另外下载分片和转换中间产物往往单独占空间。对不上就说明还有目录没找到,别急着断定删除失败。
Ollama 里的模型删掉,和直接删文件夹有什么区别?
用 Ollama 自己的命令删会同步更新它的清单,重装或再拉同名模型时不会冲突;手动删文件夹容易留下清单记录,之后可能出现列表里有、实际跑不起来的情况。所以走 Ollama 装的,优先用它自己的删除命令。
删掉之后想重新装一遍,有什么要先准备的?
先确认硬件和空间够不够,别删完发现新版本跑不动。部署测算和显存口径到 /models/deploy 核对,磁盘需求可以参考 /models 里的模型资料,装之前把网络和镜像源也准备好,省得下到一半卡住。