在 Windows 上敲 ollama pull,进度条卡住不动、或者几十 KB 每秒磨半天,多半不是模型太大,而是连接 registry 那一段不稳。这篇不聊模型选型,只解决「怎么把权重顺利落到本地」这一件事:先分清楚卡在哪一步,再按换源、走代理、离线搬运三条路依次试,最后给一套下次换模型的排查顺序。
在 Windows 上敲 ollama pull,进度条卡住不动、或者几十 KB 每秒磨半天,多半不是模型太大,而是连接 registry 那一段不稳。这篇不聊模型选型,只解决「怎么把权重顺利落到本地」这一件事。
思路很简单:先分清楚卡在哪一步,再按换源、走代理、离线搬运三条路依次试,最后给一套下次换模型的排查顺序。三条路不是随便挑,而是有先后——上一条走不通再走下一条,能省掉大量瞎折腾。
先判断卡在哪一步,别上来就换源
同样是「慢」,成因差别很大。先看现象,再决定要不要动环境变量,否则容易改成另一个更糟的状态。
| 现象 | 大概率卡在哪 | 先做什么 |
|---|---|---|
| 提示连不上、解析失败 | DNS 或 registry 地址不可达 | 换网络或换源,别反复重试 |
| 连上了但速度极低 | 出口带宽或源侧限速 | 先量本机带宽基线再判断 |
| 下到中途断开重试 | 连接不稳或代理中断 | 检查代理是否覆盖服务进程 |
看 ollama 服务端日志和命令行输出,确认是 DNS/连接阶段慢还是传输阶段慢。用站内的接口测速先量一条本机到外网的延迟与带宽基线,避免把本机网络问题误判成源的问题,到 /tools/speed-test 跑一次就有底了。
换源:把默认 registry 指到国内可达的镜像
Ollama 走的是 OLLAMA_HOST 之外的另一套地址,换源要改的是 registry 相关环境变量,不是 host 变量,两者别混。改错了会表现为服务起不来或者命令连不上本地服务。
- 确认改哪个变量认准 registry / mirror 相关的那一个,不要顺手把 OLLAMA_HOST 一起改了
- 写入系统环境变量用系统环境变量面板或 setx 写入,改完必须重启 Ollama 服务或托盘程序才生效,只重开终端没用
- 小模型验证连通先用一个小体积模型验证连通性,再拉你要的大模型,避免大文件下到一半才发现源不对
- 记录改了什么把变量名和值记一条备忘,出问题时能快速回退
走代理与断点续传:拉大模型时的稳定性
代理要同时覆盖命令行和服务进程。只给终端设代理而 Ollama 后台服务没走代理,是很常见的白忙一场——命令行走通了,实际下载的那个进程还在裸连。
- 给终端设代理后,确认服务进程也继承了同样的变量,或者干脆在系统级设置
- 下载中断后重新 pull 通常会复用已下载的分层,不必删目录重来;反复失败再考虑清掉对应模型的半成品目录
- 一次只拉一个模型,多个 pull 并发会互相抢带宽,表现就是每个都很慢
- 拉之前先看一眼磁盘剩余空间,别等下到一半才发现盘不够,到 /models 核对模型体积和占用
离线搬运:网络实在不行时的兜底方案
前面两条都走不通,就用最笨但最稳的办法:在能正常拉取的机器上把模型拉全,再整目录拷到目标 Windows 机器的模型目录下。路径规则到站内模型路径相关页面核对,别凭记忆猜。
- 搬运前
- 源机器上先 ollama list 确认模型完整可用,别拷一个半成品
- 拷贝时
- 整目录拷,保持目录结构不变;Windows 上用资源管理器直接拷大目录容易中断,能压缩就先打包
- 拷贝后
- 目标机器先 ollama list 看能不能识别,再跑一次最小推理确认权重完整
- 判断标准
- 能 list 出来不代表能用,必须真跑一次推理再用于生产
下次换模型时的排查顺序清单
把下面这个顺序固定下来,每次只改一个变量,改完重启服务并记录。这样出问题能立刻定位是哪一步引入的,而不是全盘推倒重来。
- 确认服务在跑托盘图标或服务状态正常,命令行能列出已有模型
- 测本机带宽基线到 /tools/speed-test 量一次,排除本机网络问题
- 验证源可达确认 registry 地址能连通,必要时换源后重启服务
- 拉小模型试通用一个小体积模型跑通全流程,确认下载和加载都正常
- 拉目标模型最后再拉真正要用的那个,期间不要再并发别的 pull
拿不准当前模型体积和磁盘占用时,到 /models 和部署测算页面核对,别等下到一半才发现盘不够。常用模型的拉取方式记成一条本地备忘,下次直接照做,省掉重新试错的时间。
慢不一定是源的问题,先量基线、再改一个变量,比一次改五个环境变量管用得多。下一步想知道各中转渠道当前的连通情况和可信度,去站点导航和实测页面看当时的记录,再决定用哪条路。→
常见问题
换了源还是慢,是不是源坏了?
先别下结论。按顺序排:本机到外网的基础带宽是不是本来就不行、Ollama 服务有没有真的重启、是不是同时在拉多个模型互相抢带宽。这三项都排除后再换一个镜像源试。如果所有源都慢,问题大概率在本地网络或运营商出口,不在源。
能不能用下载工具把模型文件下下来再手动放进去?
技术上可行,前提是文件结构和模型目录规则对得上,具体路径规则到站内模型路径相关页面核对。风险在于手动拼的文件容易缺层或命名不对,Ollama 识别不出来。建议先在一台网络正常的机器上完整 pull 一次,再把目录整体搬过去,比零散下载稳。
加速之后拉取速度能到多少?
没有固定值,取决于你的出口带宽、镜像源的同步状态和当前时段。站内有接口测速页面可以先量出本机到外网的基线,拉取速度基本不会超过这条基线。先测基线再谈加速,比盯着进度条猜要靠谱。