ollama 启动需要哪些步骤

模型与算力

给第一次装 Ollama 的人一份从安装到验证的启动顺序清单,讲清每步该确认什么、卡住时按什么顺序排查。

很多人装完 Ollama 双击图标就以为好了,结果一敲命令报连不上、模型拉不动、GPU 也没吃上。这篇按顺序把从零到服务可用的每一步拆开,告诉你每步要验证什么、哪一步不适用什么情况,以及出问题时先看哪里,不做任何绝对承诺。

很多人装完 Ollama 双击图标就以为好了,结果一敲命令报连不上、模型拉不动、显卡也没吃上。问题通常不在软件本身,而在顺序:安装、找命令、起服务、拉模型、验证算力,这几步里任何一步跳过去,后面都会以「报错」的形式找回来。

这篇按从零到服务可用的顺序拆一遍,每一步告诉你该验证什么、什么情况下这一步的做法不适用、卡住时先看哪里。整个过程不涉及任何必须记住的具体参数,凡是需要看数字的地方,都到站内对应页面核对当时的情况。

第一步:装完先确认命令能不能被找到

安装方式不同,装完之后的状态完全不一样。桌面安装包通常装完就有一个常驻后台的服务,命令行脚本装的往往需要你自己手动起。先分清自己装的是哪一种,不然后面所有判断都会错位。

  1. 新开一个终端安装脚本改的是环境变量,已经开着的终端读的还是旧环境,必须新开一个再敲命令,否则会误判成装失败。
  2. 敲一次版本类命令能打印出内容,说明可执行文件在、命令可被找到。这一步是在验证「命令存在」,不是在验证服务可用,两者要分开看。
  3. 找不到命令就查 PATH说明可执行文件不在当前终端能搜到的目录里,先解决路径问题,别去怀疑模型或网络。
  4. 确认服务形态看自己装的是常驻后台的版本还是需要手动启动的版本,这决定下一步是去检查后台进程还是自己敲启动命令。

第二步:把服务起起来,并确认它在监听

起步阶段尽量用默认方式启动,不要一上来就叠一堆自定义参数。加了参数之后服务起不来,你分不清是软件问题还是参数写错了,排查成本直接翻倍。

  • 启动后另开一个终端,发一次最简单的请求,能正常返回模型列表就说明服务已经通了
  • 看监听端口是不是被别的程序占了,被占就换端口,或者先停掉冲突的那个进程
  • 服务能起但请求没响应,看是不是被防火墙或代理拦在了本地回环之外
  • 只打算用图形客户端的人可以跳过手动起服务,但要确认后台服务确实在跑,而不是以为它在跑

判断服务是否在监听,不要只看启动那一行日志说「已启动」,要看实际能不能连上。日志成功但请求失败,多数是端口、地址绑定或代理的问题,跟服务本身无关。

第三步:拉模型、跑起来、看你用的算力

服务通了以后才轮到模型。先拉一个小体积的模型做通路验证,通了再拉大的。直接拉大模型,下载和加载都要等很久,中途出问题你很难判断是网络、磁盘还是显存。

跑起来之后重点看两件事:一是它跑在显卡上还是 CPU 上,二是模型存在哪、占了多少盘。走 CPU 会明显慢,属于硬件层面的结果,只能按你的机器情况调整,不是软件设置能凭空解决的。磁盘满导致拉取失败也很常见,路径和占用情况可以到 /tools 里的换算与检测工具对照看。

现象先看哪里常见原因
请求能返回但很慢任务管理器或显卡占用模型走的是 CPU,不是显卡
拉取中途失败磁盘剩余空间模型文件太大,盘不够
加载时报显存相关错误先换小模型验证通路当前档位超出硬件承受范围
拉取一直转圈网络与代理设置下载源不可达或代理没生效

第四步:起不来时按这个顺序排查

排查要从下往上,别一上来就重装。重装是最贵、信息量最小的一步,它会把你本来能拿到的线索全清掉。

  1. 看进程有没有起进程都不存在,后面全都不用查,先把服务起起来再说。
  2. 看端口有没有在听进程在但端口没听,可能是端口冲突或地址绑定问题,换端口或停掉冲突程序再试。
  3. 发一次最简单请求请求有返回,说明服务链路是通的,问题就落在模型拉取或加载这一段。
  4. 按报错分类定位连不上多半是服务没起或端口不对;能连上但拉不动模型,多半是网络或磁盘;报显存相关错误,先换小模型验证通路。
  5. 整理最小可复现信息定位不了时,把最小可复现的操作步骤和完整报错整理出来再去查文档或社区,不要一边乱改配置一边试。

如果你已经确认服务能起、模型能拉、能跑,但不确定这台机器跑某个模型的实际速度大概在什么水平,可以用站内的速度换算工具先做个对照,避免在错误的方向上反复调参数。

下一步想横向比较不同接入方式的速度和稳定性表现,可以到站内的测速工具跑一轮,把服务可用和用起来顺手这两件事分开看。

常见问题

安装完敲命令提示找不到,是装失败了吗?

多数情况是终端环境没刷新或 PATH 没带上。先新开一个终端重试,还不行就确认安装路径有没有加进环境变量。用容器或系统包方式装的,命令入口和桌面端不一样,先确认自己用的是哪种装法再判断。

服务起了但模型拉不下来怎么办?

先看是不是网速慢或下载中断,换个小的模型试通路;再确认磁盘空间够不够,模型文件很占盘;最后看是不是权限或代理设置挡住了请求。三步都不行,就把完整报错留下来,别反复重试同一个大模型。

怎么知道跑的时候用的是显卡还是 CPU?

启动后发一次请求,同时看任务管理器或显卡监控里的占用变化,有占用说明吃上了加速卡。没有占用通常是驱动或运行时没配好,先按你的硬件和系统对照安装要求检查,不要直接改模型参数。具体判读口径可以到站内的部署测算页面对照。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。