windows ollama 使用教程

很多人是在 Windows 上第一次碰本地模型：下载完安装包双击装好，命令行敲一句却提示找不到命令；或者模型拉下来了，一问就卡住不动、风扇狂转。这篇按 Windows 的实际路径走一遍，从安装位置、环境变量、模型存放盘到常用命令和报错排查，让你在一台普通 Windows 机器上把 Ollama 跑稳。

很多人是在 Windows 上第一次碰本地模型：去官网下个安装包双击装好，命令行敲一句却提示找不到命令；或者折腾半天模型终于拉下来了，一问就卡住不动、风扇狂转。这篇按 Windows 的实际路径走一遍，从安装位置、环境变量、模型存放盘到常用命令和报错排查，让你在一台普通 Windows 机器上把 Ollama 跑稳，而不是装完就放弃。

下面每个小节都配了可直接照做的动作和判断标准。凡是涉及模型规模、显存占用、机器选型这类会随时间和硬件变化的数字，一律不写死，给出去站内对应页面自己核对的入口；因为不同量化档位、不同驱动版本下，同一台机器的表现可能差一个量级。

装之前先确认三件事：系统、显卡、磁盘

动手装之前花五分钟确认环境，能省掉后面一半的返工。重点看三样：Windows 版本够不够新（老版本可能缺运行库）、内存有多少、有没有独立显卡。没有独显也能跑，但速度会和有独显差一个量级，心里先有数，别装完再怪软件。

• 系统与硬件底线：确认系统版本、内存容量、是否带独立显卡。内存偏小的机器先在任务管理器里看平时占用，别一上机就把全部内存留给模型。
• 显存和模型规模的对应关系别拍脑袋，先按量化档位估算机器能跑到多大，可到「/models/deploy」和「/compute/sizing」按参数与量化口径算一遍。
• 磁盘要提前规划：模型文件默认落在用户目录，C 盘紧张的先把存放路径想好再装，否则装完就要搬，搬的过程容易出岔子。
• 如果这台机器还要跑别的开发工具，先确认端口不会被占，不然后面改监听地址又是额外一步。

安装与「命令找不到」的两种修法

安装本身没难度，双击下一步到底就行。真正卡人的是装完之后命令行敲不出命令——九成是环境变量没刷新或装到了别的用户账户下。这里给一套固定排查顺序，照着走基本能定位。

1. 重开终端再试安装包会写系统环境变量，但已经开着的终端读的是旧快照。关掉所有命令行窗口，重新开一个再敲版本查询命令。这一步能解决大部分「装了却找不到」的情况。
2. 确认安装目录是否在 PATH还不行就去看系统环境变量里的 PATH，有没有安装目录那一项。没有就手动加，加完仍然要重开终端才生效，别在当前窗口反复试。
3. 确认是不是装到了另一个账户同一台机器有多个用户账户时，可能装在了别人的账户下，你当前账户的 PATH 里自然没有。看安装目录路径里带的是哪个用户名就能判断，必要时重装到自己账户。
4. 绕开环境变量直接跑给不想动 PATH 的人一条替代路径：直接用安装目录下可执行文件的全路径运行，或者在命令行里先切到安装目录再执行。适合临时用一次的场景。
5. 用包管理器方式安装也可以用系统自带的包管理器装，好处是升级和卸载都干净，坏处是安装位置和官方包可能不同，后续看日志要换地方找。
6. 装完先验一次跑一次版本查询，确认命令通了再往下走。半通的状态下去拉模型，失败了你分不清是网络问题还是命令问题。

服务怎么起、开机要不要自启、端口被占怎么办

Windows 上 Ollama 通常以后台服务方式常驻，装了之后一般会跟随开机自启。判断它有没有在跑，最直接的办法是看托盘图标，或者到任务管理器里搜进程名。如果只是偶尔用用，也可以关掉自启手动拉起，代价是每次用之前记得先启动。

需要局域网里别的机器访问你这台机器上的服务时，得显式改监听地址，不能只监听本机回环。改完还要在防火墙里放行对应端口，否则会出现「本机自己能用、同事连不上」的经典现象。改完记得重启服务再验证。

排查顺序建议固定下来：先看进程起没起，再看端口有没有被占，最后翻日志。日志一般在安装目录或用户目录下，报错关键字认准连接被拒和端口占用两类，比盲目重启有效得多。

拉模型、换存放盘、看本地清单

拉模型就是一条命令加模型名的事，但命名规则要留意：官方库里有的直接按名字拉，带标签的写法必须和库里实际存在的标签对得上，写错标签的报错信息不一定直观。名字和标签以站内模型资料库当前列出的为准，别照抄几个月前的旧文章。

模型默认存在用户目录下的隐藏目录里，C 盘小的话这就是最先爆的地方。换盘有两种做法：装之前就通过环境变量指定存放路径，或者装完之后把目录整体迁移过去再同步改环境变量。前者干净，后者适合已经装好的机器。改完一定要重启服务，不然还是按老路径找模型。

列出本地模型

确认盘上到底存了哪些、占了多少空间，清理前的第一步。

删除不用的模型

按名字删，删之前先用上一条命令确认名字，别凭记忆敲。

查看模型详情

看某个模型的量化档位、参数规模等元信息，决定要不要留。

迁移存放目录

先停服务、再搬目录、再改环境变量、最后重启验证，顺序别乱。

还有一类需求是从外部来源拉模型，比如从模型社区下载后导入。写法本身不复杂，但失败原因五花八门：文件名对不上、格式不对、下载不完整都会报错。细节可以对照站内讲外部来源模型导入的那篇，这里不展开。

跑起来：交互对话、单次提问、接进自己的代码

命令通了之后，先跑通第一条对话。交互模式适合慢慢试效果，单次提问适合写进脚本或批处理里，两种用法各给一条可以直接复制的写法。交互模式里能用的控制项不多，但有几个很关键：切换模型、清空上下文、退出。清空上下文这个尤其要记住，上下文不清会越聊越慢。

ollama run 你的模型名        # 进入交互对话，适合试效果；ollama run 你的模型名 "请用一句话解释什么是向量"   # 单次提问，适合脚本；/bye   # 交互模式里退出；/clear 或对应快捷键   # 清空当前上下文

本地服务启动后会暴露一个兼容接口，把已有代码里的接口地址改成本机地址通常就能接上，调用逻辑基本不用重写。这是它最省事的地方：原来调在线接口的脚本，改一行地址就能指向本地模型。

但把它当后端给别的工具用时，两个坑最容易踩：一是模型名写错，报错信息往往只说不存在，不说你是不是拼错了；二是上下文长度超限，输入太长会被截断或直接报错。看到「模型不存在」先核对名字，看到「长度超限」先缩短输入或调参数。

Windows 上最容易踩的六个坑

下面这六条是按 Windows 环境特有程度排的，前三条几乎每个人都会遇到一次。每条都给了判断方法和处理动作，不用逐条试，按现象对号入座。

• 路径里有中文或空格：表现为模型加载失败或加载到一半报错。判断方法是把模型存放目录换到一个纯英文无空格的路径再试一次。
• 杀毒软件或系统防护拦截：表现为进程起了一半停住、磁盘也不读了。判断方法是临时停掉防护再试，能过就说明是拦截，直接把安装目录和模型目录加进白名单。
• 显卡驱动偏旧：表现为识别不到独显、退化成纯 CPU 跑，速度断崖式下跌。先更新驱动再怪模型，这两件事的排查顺序不能反。
• 内存不够：表现为加载时磁盘狂读、任务管理器里内存占用贴顶。换更小的量化档位或更小参数的模型，比加虚拟内存管用。
• 多账户装了两份：表现为命令走的是旧那份、版本对不上。查 PATH 顺序和安装目录路径里的用户名，一次确认清楚。
• 休眠后服务假死：表现为机器睡醒之后连不上。最省事的处理是重启服务，如果频繁发生就关掉系统休眠或改成不休眠硬盘。

常用命令清单：一张表照着敲

下面这张表只留日常真会敲的命令，按用途分组，每条配一句「什么时候用」。不追求参数大全，因为参数大全你也不会背，需要时查官方文档更快。模型名和标签以站内资料库当前列出的为准。

如果你经常换机器，建议把这个流程写成一个批处理脚本串起来：先检查服务在不在跑，没跑就拉起；再检查目标模型在不在本地，不在就拉；最后跑一条最简单的提问验证通路。这样换机器时只改模型名和路径两个变量。

另外单独记一份自己的环境备忘：安装目录在哪、模型目录在哪、监听地址是什么、驱动版本多少。重装系统或者换机时直接照抄，比重新踩一遍坑省事得多。

什么时候别用 Ollama，什么时候这台机器就别折腾了

Ollama 的定位是让本地跑模型这件事变简单，不是做高并发服务端的。要想清楚目的再动手，不然装完发现方向不对，时间全打水漂。

• 要跑多路并发请求的服务端场景：它不是为这个设计的，选型和对比可以看站内推理框架相关的几篇，别硬撑。
• 老机器、没独显、内存偏小：硬上大参数模型只会得到「能跑但没法用」的体验，这种情况先用在线接口更划算。
• 团队多人共用一台机器：模型存放位置和显存分配要先约定好，否则互相抢资源，谁都跑不顺。
• 只想临时试一下某个模型的效果：装一套本地环境的成本可能高于直接调接口，先想清楚是长期用还是尝鲜。
• 涉及敏感数据的场景：好处是数据不出本机，但也要评估机器性能和可维护性，别为了合规把效率拖垮。

判断标准其实很简单：如果你的需求是「稳定、多人、长期对外提供服务」，本地单机方案不合适；如果需求是「单人在自己机器上试、数据不想出本机、对速度要求不高」，那这条路是通的。拿不准就先按最小成本试一次，再决定要不要投入更多。