在 chatbox 中连接本地 ollama 服务

模型与算力

讲清 Chatbox 怎么接上本机 Ollama 服务:从服务监听地址、模型准备到连通性排查,一次把离线聊天入口跑通。

装好 Ollama、也拉过模型,结果 Chatbox 里填完地址一直转圈或者报连接失败——这是最常见的卡点。问题往往不在模型,而在服务地址、端口写法、模型是否真的在本机这几件事上。这篇按顺序带你走一遍:先确认 Ollama 服务对外暴露的地址和端口,再在 Chatbox 里按它的填写口径配好,最后用一套排查顺序定位连不上的原因,跑通后你就有个不依赖外网的本地聊天入口。

装好 Ollama、也拉过模型,结果 Chatbox 里填完地址一直转圈或者报连接失败——这是最常见的卡点。问题往往不在模型本身,而在服务地址、端口写法、模型是否真的在本机这几件事上。这篇按顺序带你走一遍:先确认 Ollama 服务对外暴露的地址和端口,再在 Chatbox 里按它的填写口径配好,最后用一套排查顺序定位连不上的原因,跑通后你就有个不依赖外网的本地聊天入口。

整个过程不需要改 Chatbox 的源码,也不需要教程之外的插件。你只要把「服务在听哪个地址」和「Chatbox 往哪个地址发请求」这两件事对齐,剩下的就是常见的端口和代理问题。如果只是想在一台机器上自己用,配置量很小;想让手机或另一台电脑也连过来,就要在监听地址上多做一步取舍。

动手前先确认三件事

  • Ollama 服务是否已在运行:命令行里能正常对话,说明服务是活的,Chatbox 连不上多半出在网络层而不是模型层
  • 目标模型是否已在本机:先在命令行把要用的模型跑通一次,再把这个名字填进 Chatbox,避免把「模型没拉下来」误判成「连接失败」
  • 分清服务地址和端口:本机自用、局域网其他设备访问、容器内访问这三种场景填法不一样,动手前先想清自己是哪一种

关于监听地址这一层,涉及绑定到哪个网卡、要不要对外开放、容器场景下宿主机地址怎么写,展开讲篇幅不小。站内已经有一篇专门梳理这块,去 这篇地址说明(/guides/ollama-local-api-address) 对照自己的场景看更清楚。本文默认你已经知道自己该用哪种地址,重点放在 Chatbox 侧的填写和连通性排查上。

在 Chatbox 里怎么填地址和模型名

Chatbox 里配置模型时,第一件事是选对服务类型。它通常提供多个供应商入口,有的走 OpenAI 兼容协议,有的走 Ollama 原生接口,字段含义和默认路径都不一样。选错档位,后面地址和模型名填得再对也可能连不上,所以第一步先认清自己点的是哪一档。

  1. 选服务类型在 Chatbox 的模型设置里选自定义或 Ollama 类入口,不要选成 OpenAI 兼容那一档;两档的地址拼接规则不同,填错后现象是请求返回但拿不到回答
  2. 填服务地址地址只写到端口为止,不要手滑在后面带多余路径或结尾斜杠;端口要和你本机 Ollama 实际监听的一致,自己改过就以实际为准
  3. 填模型名模型名必须和你在命令行跑通的完全一致,包括标签后缀那一截;写错通常不会报连接失败,而是在加载或拉取阶段直接失败
  4. 最小请求验证保存后先发一句最短的问候,用最小请求验证链路是否通;不要一上来就丢长文档或大段代码,那样失败时分不清是配置问题还是长度问题
填错的地方典型表现先查什么
服务类型选错档能连上但回答异常或直接报协议错确认选的是 Ollama 原生还是兼容档
地址多了路径或斜杠一直转圈或连接被拒把地址截到端口为止再试
模型名带错后缀提示模型不存在或加载失败回命令行核对自己用的完整名字
端口和实际不一致连接被拒绝看服务日志里实际监听的端口

连不上时的排查顺序

连不上别急着重装。按下面这个顺序走,每一层只验证一件事,基本能在几步内锁定原因。顺序错了就会出现「反复重启软件但问题在代理」这类无效操作。

  1. 第一步 看服务本身回到命令行确认对话还能不能用。服务挂了先重启服务,别在 Chatbox 里点来点去,那解决不了服务没起来的问题
  2. 第二步 看监听范围如果只绑定了本机回环地址,那另一台设备或容器访问必然失败。先确认自己是本机自用还是跨设备访问,再用对应地址
  3. 第三步 看端口占用与本地拦截端口被别的程序占用、或本地安全软件拦截,都会表现成连不上。换一个端口试一次是最快的区分办法
  4. 第四步 看代理是否劫持本地请求开了全局代理时,发往本机地址的请求也可能被代理接管。临时关掉代理再发一句,如果立刻通了,问题就在这

这四步里,第二步和第四步最容易被忽略,也最容易让人误判成「Chatbox 不兼容」。如果按顺序查完仍然失败,可以把每一步的现象记下来,再去站内的 连通性检测工具(/tools/speed-test) 对照看是哪一层没通,比盲目换配置省时间。

跑通之后要注意的两点

  • 离线指的是不依赖外部接口,模型本身照样吃本地磁盘和显存;回答慢或中途卡住,先看资源占用而不是回去改 Chatbox 配置
  • 换模型、加模型通常只改模型名这一项,服务地址不用动;想多端共用同一台机器上的服务,得回到监听地址那一步做取舍
  • 同机自用最省事,跨设备访问就要考虑是否对外开放以及对应的安全边界,不要为了图方便长期把服务暴露在不受控的网络里

如果你还想对比不同本地服务和云端服务在延迟、稳定性上的差别,站内的实测数据更直观。想了解各家官方接口的模型覆盖和计费口径,去 站点目录(/sites) 按分类翻;价格和额度这类会变的数字,一律以 价格追踪页(/price-watch) 当时显示为准,不要在教程里写死。

下一步配置能跑通只是起点,想判断这条本地链路值不值得长期用,可以顺手做一次连通性和延迟实测,把结果和云端方案放在一起比,再决定哪些活交给本地。

常见问题

Chatbox 里填了地址还是提示连接失败,一般是哪里错了?

先排除服务本身:命令行还能正常对话说明服务在跑。然后按顺序查三处——地址只写到端口有没有多写路径、服务是否只绑定了本机导致其他设备访问不到、本地代理或防火墙有没有拦截这个端口。这三项占绝大多数情况,重装软件基本解决不了。

一定要用默认端口吗,改了端口 Chatbox 还连得上吗?

连得上,前提是两边口径一致。改了服务监听端口后,Chatbox 里填的地址也要跟着改,端口号写错就会表现为连不上。建议改完先用命令行或浏览器直接访问一次确认服务在新端口上是通的,再去改 Chatbox,这样出问题能立刻分清是哪一边。

跑通之后是不是就完全不用联网了?

聊天链路本身不需要外网,模型和对话都在本机完成。但拉新模型、更新软件这些动作仍要走网络。另外如果你把监听地址放开到局域网方便别的设备连,安全性会下降,具体要权衡哪些设备能访问,参考站内安全相关页面的口径再决定。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。