用 Chatbox 接本地 Ollama,最常见的卡点就是模型列表拉不出来、一发消息就报连接失败或者一直转圈。这篇不解释原理,只给排查顺序:先确认 Ollama 服务本身有没有在监听得住,再看 Chatbox 里那个地址该怎么填,最后处理跨机器访问、端口被占和代理干扰这几类坑。跟着走一遍,大多数连接问题能定位到具体是哪一环。
用 Chatbox 接本地 Ollama,最常见的卡点就三类:模型列表拉不出来、一发消息就报连接失败、或者界面一直转圈没反应。这三类看着像一回事,其实排查入口完全不同。
这篇不解释底层原理,只给一条从下往上的排查顺序:先确认 Ollama 服务本身有没有在监听得住,再看 Chatbox 里那个地址该怎么填,最后处理跨机器访问、端口被占和代理干扰这几类坑。跟着走一遍,大多数连接问题能定位到具体是哪一环。
第一步:先确认 Ollama 服务到底在不在
很多人一上来就打开 Chatbox 改配置,其实第一件事是把 Chatbox 放一边,先证明 Ollama 自己是活的。做法很直接:在命令行里跑一次对话,能正常出结果才说明服务是在工作的。
- 如果命令行也连不上,问题在 Ollama 本身,跟 Chatbox 没关系,先看进程有没有起来、日志里报了什么,别在客户端里瞎改配置
- 如果命令行能出结果、Chatbox 连不上,那说明服务是好的,问题在客户端配置或网络这一侧,继续往下走地址和端口这两步
- 不要一遇到失败就卸载重装,多数情况重装解决不了监听和地址问题,反而把已有的配置弄丢
第二步:地址和端口怎么填才对
这一步是报错最集中的地方。Chatbox 里要填的是 API 地址,不是你在浏览器里打开的网页界面地址,两者写法不一样,填错就是典型的拉不到模型列表、但看不出明显错误提示。
| 填写项 | 本机使用的正确做法 | 常见错误 |
|---|---|---|
| 主机地址 | 填本机回环地址 | 填成局域网 IP 或主机名,除非确实要跨机器连 |
| 端口 | 跟 Ollama 实际监听的端口保持一致 | 凭记忆填,或改过端口后没同步改客户端 |
| 地址结尾 | 按 Chatbox 的填写说明处理斜杠 | 随手多带或漏掉斜杠,直接报错 |
| 访问方式 | 本机连接用回环地址最稳 | 绕一圈走路由器或代理,徒增失败点 |
改过端口、或者机器上装过多个实例的,先去确认当前到底监听在哪个端口上,再回填到 Chatbox。填完先点一次拉取模型列表来验证,列表能出来说明地址这一段基本对了。
第三步:跨机器访问、防火墙和端口占用
想从另一台电脑连你这台机器上的 Ollama,光在 Chatbox 里填局域网 IP 是不够的。服务默认只对本机开放,不显式放开对外监听,外面那台机器根本连不进来。
- 放开对外监听让 Ollama 接受非本机的请求,改完要重启服务才生效;验证方式是回到命令行,从目标机器的角度确认能不能连上
- 放行防火墙端口在系统防火墙里放行 Ollama 用的那个端口,否则表现就是「地址没错但一直超时」,这一步最容易被漏掉
- 检查端口占用端口被别的程序占了,表现为服务起不来或者时好时坏;换一个端口,或者先停掉占用进程再启动
- 暂时关掉代理再试系统代理或 VPN 有时会把本机回环地址的请求也接管走,导致请求发不出去;排查时先把代理关掉试一次,通了就说明是代理的锅
第四步:服务通了还失败,看模型和客户端这一侧
服务能通了、地址也对,但 Chatbox 还是报错,这时候要看两类原因:本地到底有没有这个模型,以及机器资源够不够。
- 提示找不到模型,通常是本地还没把这个模型拉下来,或者模型名写得不完整,先去命令行确认模型在不在
- 模型体积大、内存或显存不够时,请求会卡住甚至被系统杀掉,表现很像连接失败;换成小模型试一次能快速排除这一项
- Chatbox 版本旧了对当前接口支持不好也会报错,换一个能确认支持当前接口的版本再试
- 想区分是「连接根本没建起来」还是「建起来了但响应慢得离谱」,到站内的接口测速页面量一下本地响应延迟,两边数据放一起看就很清楚
排查顺序清单:照这个顺序走,别跳步
| 顺序 | 检查项 | 通过标准 |
|---|---|---|
| 一 | 命令行直连 Ollama | 能正常出结果,说明服务是活的 |
| 二 | Chatbox 里地址与端口 | 与实际监听的地址端口对齐,能拉出模型列表 |
| 三 | 跨机器时的监听与防火墙 | 目标机器能连上,不超时 |
| 四 | 模型是否已拉取、资源是否够 | 本地有该模型,请求不被卡死 |
| 五 | 代理与客户端版本 | 关掉代理、换合适版本后仍稳定 |
每做完一步只改一个变量再试。同时改好几处,出了新问题就说不清是哪一步导致的,等于把排查绕回原点。
如果全部走完还是不通,把三样东西凑齐再去问:命令行跑出来的结果、Chatbox 里实际填的地址、报错原文。只发一句「连不上」,对方也只能靠猜。
下一步需要对照各类接口的响应情况和工具配置说明,站内的测速页和工具目录里有现成的参考,先量一遍再判断是连接问题还是速度问题。→常见问题
为什么命令行能用,Chatbox 里就是连不上?
命令行走的是本机默认通道,Chatbox 走的是你手填的地址和端口,两者不是一回事。先核对客户端里填的是不是本机回环地址加正确端口,再看有没有多写路径、斜杠,以及系统代理有没有把本机请求截走。把代理关掉再试一次,能排除一多半这类情况。
想让同一局域网的另一台电脑也连上,要改什么?
默认只对本机开放,得先让 Ollama 对外监听,然后在两台机器之间的防火墙放行对应端口,客户端那边把地址换成提供服务的机器 IP。改完先在另一台机器上确认能通,再配 Chatbox,别一步到位全改完再排查。
报错里提到模型找不到,是连接问题吗?
多半不是。连接失败和模型不存在是两类错,前者服务都没握上手,后者是服务通了但本地没有这个模型,或者模型名写得不对。先确认本地已拉下来、名字对得上;如果机器资源不够导致加载卡死,看起来也像连不上,换个更小的模型试一次就能区分开。