windows ollama 使用常见问题:第一次装完最容易被这几个坑卡住

模型与算力

把 Windows 上跑 Ollama 最常卡的几件事拆开:装完没反应、显卡没吃上、模型下不动、连不上服务,给出判断标准和逐步排查顺序。

在 Windows 上装 Ollama,双击安装包那一步基本没人卡,卡的是后面:命令敲下去没输出、任务管理器里 GPU 占用为零、pull 到一半停住、浏览器连 11434 报拒绝。这篇不讲原理综述,只按「你看到什么现象,先查哪一步」的顺序走一遍,帮你判断是配置问题、显存问题还是网络问题,也说明哪些情况这套排查不适用。

装 Ollama 那一步几乎没人卡,双击、下一步、完成,完事。麻烦全在后面:命令敲下去光标一直闪没输出,任务管理器里 GPU 占用是零,pull 到一半像卡死了,浏览器打开本地端口直接报拒绝连接。这篇不讲原理,就按「你看到什么、先查哪一步」的顺序走,帮你把配置问题、显存问题、网络问题分开。

有件事得先说明:下面这套排查针对的是官方安装包在 Windows 上跑本地模型这个场景。你要是走的是公司内网代理、或者用的是别人搭好的远程服务,很多步骤对不上,别硬套。判断顺序本身是通用的,具体路径要以你安装的版本为准,版本号到 /tools/speed-test 这类站内工具页去看当时的说明。

装完了不等于跑起来了

Ollama 在 Windows 上是两层东西:一个常驻后台的服务,加一个你敲命令的客户端。安装包负责把服务注册好,客户端只是去跟它说话。所以「敲命令没反应」这件事,第一嫌疑往往是服务没起来,而不是软件装坏了。别急着重装,重装一遍大概率还是那个状态。

怎么看服务在不在?看系统托盘有没有那个图标,再去任务管理器里找有没有常驻的进程。两样都在,说明服务活着,问题在命令本身;两样都没有,才轮到检查安装和开机自启。有些安全软件会拦后台常驻程序,装的时候没提示,用的时候才发现服务起不来,这种情况去安全软件的拦截记录里翻一下比反复卸载重装快。

  1. 先确认服务状态看托盘图标和任务管理器进程。都没有就手动启动一次,再复查一遍。
  2. 再看命令输出服务在但命令报错,把完整报错抄下来,别只看最后一行。错误里通常会写是连不上还是模型不存在。
  3. 第一次拉模型失败先判断是网络问题,换个时间段再试一次。安装包损坏的概率远低于网络抖动的概率。

这里有个常见误判:看到命令没反应就以为要重装,结果重装三次,其实是安全软件把服务拦了。另一种是服务在跑,但你敲命令的窗口权限不对,读不到配置,表现也像「没反应」。这两种看报错就能分开。

显卡明明有,跑起来却是 CPU 在扛

最直接的判断方式是打开任务管理器看 GPU 和显存占用,别凭风扇声或者机箱温度猜。模型跑起来的时候显存应该有明显占用,GPU 计算单元也应该有负载。两个都是零,那基本可以确认没吃到显卡。

确认没吃上之后,先分清是哪一类原因。模型太大放不进显存,是容量问题;显卡太老或者驱动版本对不上,是兼容问题;核显笔记本,是硬件条件问题。这三类的处理方式完全不同,混在一起查会浪费很多时间。容量问题可以调,把一部分层放到显存、剩下的退回内存,速度会掉但能跑;兼容和硬件条件这两类,调参意义不大。

现象大概率原因先做什么
显存占用为零,GPU 负载为零完全没走显卡查驱动和兼容列表,确认这张卡在支持范围内
显存有占用但很快报显存不足模型放不下减少卸载到显存的层数,让一部分退回内存
能跑但慢得离谱部分层在 CPU 上接受这个速度,或者换更小的模型
风扇狂转但输出很慢计算在跑,瓶颈在别处看是不是同时开了别的吃显存程序

有一点要提前说清楚:核显、年份较老的独显、驱动很久没更新这几种情况,加速效果本来就有限,这不是你参数填错了,是硬件就这个水平。硬调参数试图让它变快,大概率只是把稳定性搞坏。什么卡能跑、什么卡只能凑合,去 /tools/speed-test 对照当时的检测说明更靠谱。

模型下不动、C 盘悄悄满了

模型文件默认落在用户目录下面,体积都不小。系统盘本来就紧张的话,装完还没用几天,C 盘就红了。这事儿要在拉模型之前处理:先把存储位置改到别的盘,再开始下载。已经下好的模型想搬过去,改完配置还得核对路径有没有真的生效,不然它会在新位置重新下一份,白占一遍空间。

pull 卡住要分两种。一种是停在解析或者连接阶段,进度条根本不动,这多半是网络到不了源站;另一种是进度条在走但慢得让人想关掉,这是带宽问题。两种处理方式不一样:前一种换时间段、换网络环境试试;后一种只能等,或者挑网络空闲的时候拉。

  • 拉模型前先看目标磁盘剩余空间,留出比模型体积更宽的余量
  • 存储目录改完,拉一个小模型验证路径是否真的生效
  • 进度条不动超过一段时间,先断掉重试,别一直挂着
  • 已经下好的模型搬家,改完配置要实际跑一次确认读的是新位置
  • 系统盘紧张又暂时不想搬家,至少把临时文件目录也挪走

本地连不上、局域网也连不上

命令行里能正常聊天,但自己写的程序连不上,这种最常见的原因是服务只监听了本机回环地址。别的机器要访问,改的是服务端的监听配置,不是你程序里填的那个地址。很多人反过来改客户端,改半天没用。

排查顺序建议固定下来:先在本机浏览器里打一下那个端口,能出东西说明服务本身没问题;再找同网段的另一台机器打同一个端口,这一步失败就是监听地址或者防火墙的事;最后才回到代码里试。跳过前两步直接调代码,等于把网络问题和代码问题搅在一起。

还有一种情况是端口被别的程序占了。表现是服务起不来,或者起来了但连上去回的不是你预期的内容。任务管理器里看端口占用,或者换个端口试一次,很快能分出来。

下一步本地跑通之后,要不要换更便宜的调用方式、各家官方价格和中转站可信度怎么比,站内都有现成的对照,去 /price-watch 和 /sites 看当时的数字再决定。

常见问题

装完之后输入命令一直没反应,是装坏了吗?

先别重装。看托盘里有没有 Ollama 在跑,没有就手动启动一次服务再敲命令。如果服务在跑还是没输出,多半是模型还没下载完或者名字写错了,换个明确的模型标识再试一次。

有独立显卡但速度很慢,怎么判断到底用没用上?

跑一次提问,同时打开任务管理器看 GPU 和显存曲线。显存几乎不动就是没卸载到显卡上,可能是模型太大放不下、驱动太旧,或者跑的是集成显卡。可以先换一个更小的模型验证链路是否通。

局域网里另一台电脑访问不了我的 Ollama,问题在哪?

九成是服务只监听了本机地址。先在本机用浏览器打端口确认服务活着,再去改服务端监听配置并重启服务,然后从另一台机器访问。还要确认 Windows 防火墙放行了这个端口,否则前面都对了也连不上。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。