linux 重启 ollama 服务

模型与算力

讲清 Linux 上 Ollama 服务重启的几种做法,以及重启后仍起不来时按什么顺序排查,避免盲重启。

Ollama 跑在 Linux 上,改完环境变量、换完模型目录、或者接口突然不通的时候,多数人第一反应是重启服务。但重启这一步本身就分好几种做法:命令行前台拉起、systemd 托管、容器里重启,每种停和起的方式不一样,用错了要么没生效要么留下僵尸进程。这篇把重启动作和启动失败后的排查顺序拆开讲,方便你按现象定位。

先弄清你的 Ollama 是哪种跑法

重启 Ollama 之前,最怕的就是凭印象敲命令。同一条 ollama serve,可能是你在终端前台跑着,可能是 systemd 拉起来的常驻服务,也可能压根不在宿主机上、而是跑在某个容器里。三种情况的重启方式完全不一样,选错命令最常见的结果是:你以为重启了,其实老进程还在;或者你 kill 掉一个,几秒后它又自己起来了,因为背后另有东西在管它。

跑法典型特征重启思路
前台命令行终端里能直接看到日志刷屏,父进程是你的 shell 或终端会话先停掉这个前台进程,再重新执行启动命令
systemd 托管有对应的 unit 文件,能用 systemctl 查到状态用 systemctl 的 restart 走一遍,别手动 kill
容器内运行进程在容器命名空间里,宿主机看不到它的父级是 init重启容器本身,而不是去容器里找进程杀

判断方法就三步,按顺序来,基本不会误判。先看进程的父级是谁:如果父进程是你的登录 shell 或某个终端,多半是前台跑法;如果父级是系统的 init 或服务管理器,那就是被托管的。再看有没有对应的 systemd 单元,查得到单元基本就归它管。最后确认是不是在容器里,容器内看到的进程树和宿主机是两套,别拿宿主机的结论去套容器。

  1. 确认进程归属定位到 ollama 相关进程,看它的父进程是谁。父级是 shell 或终端会话,就是前台跑法;父级是系统服务管理器,就是托管跑法。这一步决定后面所有动作。
  2. 查有没有托管单元在服务管理器里查有没有对应的单元文件。查得到,说明它被托管,重启就走托管入口,手动杀进程没有意义,服务管理器会按策略把它拉回来。
  3. 判断是否在容器内看进程所处的命名空间和挂载环境。如果它跑在容器里,宿主机上根本管不到它的生命周期,你该操作的是容器本身,而不是容器里的那个进程。
  4. 确认上层是否还有别的管理者有些进程是被脚本、任务编排工具或上层应用临时拉起的。重启之前先问一句:是谁把它拉起来的。否则你重启完,上层发现它不在了,会再拉一个,甚至把你刚起的那个杀掉。

还有一个容易被忽略的点:同一台机器上可能同时存在不止一种跑法,比如宿主机上有个托管服务,容器里又跑了一个。这时候先确认你要修的是哪一个,再看它的归属。相关环境的排查顺序和操作细节,可以到 站内页面 /guide 里对照着看,别靠记忆硬猜。判断清楚归属再动手,比任何一条重启命令都重要。

按形态执行重启,附通用动作顺序

重启这件事本身不复杂,麻烦在于不同安装形态的「重启」动作不一样。同样敲一条命令,systemd 装机上是重启服务,手动跑起来的进程上可能只是又开了一个抢端口的进程。先判断自己属于哪一种,再挑对应动作。

systemd 形态
用 systemctl 托管,进程活着但可能处于反复重启状态
前台形态
在终端里直接跑起来,关掉终端或按 Ctrl+C 就退出
容器形态
跑在 Docker 或 Compose 里,配置来源可能是容器内也可能是宿主机挂载

systemd 形态:重启前后都要看状态

  1. 重启前先看状态先执行 systemctl status,记下当前是 active、failed 还是 activating,顺带看一眼启动时间和重启次数,避免把「本来就在重启循环」当成正常。
  2. 执行重启用 systemctl restart,不要用 start 去补,start 对已经在跑的实例不会做任何事。
  3. 重启后立刻回看隔几秒再跑一次 systemctl status,确认是 active(running) 而不是 active 后又 failed。有些情况 systemd 会先报成功再落回失败。
  4. 看最近的日志用 journalctl 拉最近几十行,重点找端口被占用、模型路径不存在、显存或内存不足这几类报错。

判断真假成功有个笨办法但很管用:把状态和日志放在一起看。状态显示 running、日志里最后几行没有报错,才算这次重启站住了。只要日志里出现连续的重启尝试,就当没成功,回到日志里找原因。

前台形态:先干净退出,再重新拉起

  • 按 Ctrl+C 让进程自己退出,等它打印完收尾日志再回到提示符
  • 确认没有残留进程还在占着监听端口
  • 再执行原来的启动命令,不要在旧进程还活着的时候直接重敲一遍
  • 新进程起来后看它打印的监听地址,确认和你以为的一致
  • 如果启动报端口被占用,先解决占用,不要反复重试

容器形态:分清重启和重建

操作带不带新配置适用场景
restart 容器不带只是进程卡了,配置没动过
重新创建容器带改了环境变量、启动参数或镜像
改容器内文件后重启不一定改动可能被下次重建覆盖
改挂载目录里的配置后重启通常带配置在宿主机,容器只读它

改配置之前先想清楚这份配置存在哪。存在挂载目录里,重启一般能生效;是用 docker exec 进容器手改的,重建就没了。拿不准的话,直接把容器删掉重建,代价是多等一会儿,好处是行为可预期。

通用顺序:停、确认释放、起、确认监听、打最小请求

  1. 停用对应形态的方式停掉服务,systemd 用 stop,容器用 stop,前台用 Ctrl+C。
  2. 确认释放查进程和端口,确认原来的进程不在了、监听端口也已经放开。这一步跳过,后面所有报错都会变得难判断。
  3. 起用原来的启动方式重新拉起,不要顺手改参数,先把变量控制到最少。
  4. 确认监听看它实际绑定的地址和端口,是只绑本地还是全网卡,和你调用时用的地址是不是同一个。
  5. 最小请求验证发一个最简单的请求,比如列一下本地已有的模型,能正常返回才算这次重启完成。

这个顺序的意义在于每一步都能单独验证。如果你跳过「确认释放」直接起,报错时你分不清是配置错了还是端口没放;如果你跳过最小请求,可能要到真正跑任务时才发现服务其实没起来。按顺序走一遍花不了多少时间。

下一步如果你的服务重启后总是很快又退出,问题往往不在重启命令本身,而在启动参数或资源限制。可以到站内的排查清单里对照常见退出原因。

重启后怎么确认真的活了

服务重启完,别急着去跑模型。分三层看:进程、端口、接口。三层全过才算真活;只过前两层、接口报错,说明服务在但模型没准备好,问题不在同一层。

  1. 第一层:进程还在不在用 ps 或 systemctl status 看 ollama 的进程有没有、是不是刚起来的。重点看进程存活时间和有没有反复重启。如果几秒就没了,先去看日志里的报错,而不是继续往下测。
  2. 第二层:端口有没有在听用 ss -lntp 或 netstat 看默认那个端口是否处于 LISTEN 状态,并且记下它绑在哪个地址上。端口没起来,接口一定不通,后面两步可以跳过。
  3. 第三层:接口能不能返回用 curl 打一下服务根路径或模型列表接口,看有没有正常响应体。返回超时、连接被拒、返回错误信息,是三种不同的病,别混为一谈。
现象大概率原因先查什么
进程不在启动失败或被系统干掉服务日志最后几十行
进程在,端口没听还在初始化,或绑定地址不对监听地址与端口配置
端口在,本机通、别的机器不通只绑了本地回环地址监听地址是不是对外
接口能通但没有模型模型还没加载完或加载失败模型列表接口与拉取日志

监听地址是最容易被忽略的一层。只绑本地回环时,本机 curl 一切正常,同事从另一台机器访问就一直转圈,看起来像服务没起来,其实服务好好的。判断方法很简单:在本机用回环地址测一次,再用本机对外网卡地址测一次,两次结果不一样,就说明绑定范围有问题。不适用的情况是:这个服务本来就只给本机其他程序用,那绑本地反而是对的,别去改。

  • 重启前先记一次接口返回内容和耗时,作为对照基线
  • 重启后同样的命令再打一次,比内容、比耗时、比是否报错
  • 内容一致说明服务完整恢复;报连接错误说明没起来
  • 能连上但返回模型相关错误,说明起来了、模型没就绪
  • 两种情况处理方向不同,先分清再动手,别重启个没完

启动失败的排查顺序

服务起不来的时候,第一反应很容易是去翻配置文件,把参数挨个改一遍。更省事的做法是先看日志:端口冲突、权限不足、模型目录找不到、显存不够,这几类问题日志里基本都会点出来。先看日志再动手,能少走一大半弯路。

  1. 先拉最近一段日志用 journalctl 带上服务名和时间范围看最近的报错,重点找第一次出错的那几行,而不是刷屏的重试记录。如果 journalctl 里没有,就去服务自己的日志目录翻。
  2. 按报错关键词归类把报错对到四类原因上:端口被占、模型目录与权限、环境变量没被服务读到、显卡驱动或显存不足。归到哪类就只查哪类,别顺手把别的也改了。
  3. 一次只改一处再重跑改完一个点就重启一次看结果,确认这处是不是根因。一次动三处,好了也不知道是哪处生效,坏了更难回退。
日志里常见的说法大概率是哪类问题先查什么
address already in use / bind 失败端口被占另一个进程是不是占着同一个端口
permission denied / no such file模型目录与权限服务运行用户对目录有没有读权限
连接被拒 / 读过配置但值不对环境变量没被服务读到变量是不是只写在 shell 里
CUDA / 显存相关报错显卡驱动或显存不足驱动状态和当前显存占用

环境变量是最容易踩的坑:在终端里 export 的变量,只对当前这个 shell 会话有效,systemd 托管的服务在另一套环境里启动,根本看不见。要让它生效,得写进服务自己的配置里,而不是指望每次手动导出。

只看日志不改配置
先定位再动手,避免把无关的地方也改乱
四类原因
端口、目录权限、环境变量、显卡显存,日志一般能指到其中一类
服务自己的配置
systemd 托管的服务读的是服务单元的配置,不是你的 shell 环境

这套顺序也有不适用的时候:如果服务根本没被托管起来、或者日志级别被调得很低导致关键信息没打出来,那就先把日志级别调高、确认服务在跑,再回到上面的排查顺序。具体服务的单元配置和日志路径,可以到站内的工具目录与指南中心对照着看。

什么情况下别靠重启解决

重启之前先问一句:这到底是模型在慢慢加载,还是进程真的没了。这两种情况在终端里看起来都像「卡住」——请求没响应、光标不动、客户端一直转圈,但根子完全不同。加载慢是正常现象,重启只会让加载从头再来一遍,白等一轮;进程真挂了才需要拉起来。所以第一步永远是看日志,不是敲重启命令。

观察点更像加载慢更像进程真挂了
日志输出还在持续打印加载相关行,行数缓慢增加最后一行之后就彻底静止,没有任何新增
进程状态进程在,CPU 或磁盘有明显活动进程不在了,或状态是僵死、无响应
监听端口端口已监听,请求能连上只是等结果连接被拒,或连接建立后长时间无任何返回
重复请求等一会儿再发一次能成每次都在同一位置断掉,重试也一样
处理动作等,别重启先看日志定位,再决定重启还是修资源

重启后很快又挂,先怀疑资源

如果刚重启完没几分钟又不行了,基本可以判断不是偶发崩溃,而是资源顶不住。常见三类:显存不够导致模型加载到一半被系统杀掉;内存被吃满触发 OOM;文件句柄或连接数被占满,进程还能跑但接不了新请求。这时候反复重启只是在原地打转,每次都能「好一下」,然后把真正的原因一遍遍盖掉。

  • 显存:看是不是模型大小和并发数加起来超过了单卡容量,表现通常是加载中途进程消失
  • 内存:看系统日志里有没有 OOM 记录,表现是进程被杀但应用日志没报错
  • 句柄与连接:看进程打开的 fd 数和 TIME_WAIT 数量,表现是进程活着但新请求全部失败
  • 磁盘:看模型目录所在分区是不是快满了,表现是加载到某个文件时卡死或报错
  • 结论:同一种挂法在短时间内重复出现两次以上,先查资源,别急着再重启

该修的是「自动起来」而不是「记得重启」

如果你需要的是长期稳定,靠人记着重启这件事本身就不靠谱。更合适的做法是把它交给系统:配置成开机自启,进程异常退出时自动拉起。这样即使真的崩了,恢复也是秒级的,你只需要事后看日志查原因。要注意的是,自动拉起不能替代排查——如果它是被 OOM 杀的,自动拉起只会让它反复被杀,日志里会留下连续的重启记录,那反而是个很好的线索。

  1. 确认当前的运行方式先搞清楚服务是手工在前台跑的,还是已经交给了系统管理工具托管。前台跑的一关终端就没了,谈不上自动拉起。
  2. 看有没有现成的托管配置查一下服务管理里是否已经存在对应的单元或配置项,有的话直接在它上面加自启和重启策略,比重开一套省事。
  3. 加上退出后自动重启的策略配置成异常退出时自动拉起,并设一个重启间隔,避免崩溃时疯狂循环拉起把日志刷爆。
  4. 设好开机自启并验证配完之后重启一次机器,确认服务在没有人工干预的情况下自己起来了,这才是真的验证过。
  5. 观察一段时间内的重启记录隔一段时间回头看服务状态和日志,如果重启次数明显偏多,说明底层资源问题还没解决,回到上一步查显存或内存。

最后补一句不适用的情况:如果服务本身在升级、换模型或改配置,那重启就是必要动作,不属于这里说的「别靠重启解决」。区分方法是看这次重启是不是你主动发起的、有没有明确的变更目标。没有变更目标、只是「先重启试试」的那种,才落在这个小节讨论的范围里。

常见问题

改完环境变量重启了还是没生效,为什么?

大概率是变量没传到服务进程里。前台跑的时候 shell 里的变量能继承,但 systemd 托管的服务读的是自己的配置,不读你的登录 shell。检查服务单元的配置里有没有写进去,或者确认变量是在服务启动前设置的。判断方法很简单:看进程实际拿到的环境,而不是你终端里 echo 出来的值。

重启命令执行成功,但接口还是连不上怎么办?

把「成功」拆开看:命令返回成功只说明发起了重启,不代表服务活着。接着确认进程在不在、端口有没有监听、监听的是本地还是对外地址。如果进程在、端口也在,那就是请求路径或地址写法的问题,可以到 /ollama-api-connection-fail 这类站内页面按现象对一遍。

怎么避免每次都手动重启?

让它由系统托管并配置开机自启与失败自动重启,这样进程意外退出能被拉回来。但要注意重启策略只是兜底,如果服务频繁挂掉,根因通常是资源不足或配置冲突,靠自动拉起只会把日志刷满。先定位根因再决定要不要依赖自动重启。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。