很多人是在这一步卡住的:Ollama 已经能本地对话了,但想让 OpenClaw 这类智能体框架去调它,却一直连不上、报模型不存在,或者跑起来没反应。这篇不讲概念,只走流程:先分清谁是模型服务谁是调用方,再把地址、鉴权、模型名对齐,最后给一份连不上时的排查顺序。适合国内网络环境下自己动手的人,也说明哪些做法在纯内网或公司合规场景里不适用。
很多人卡在这一步:Ollama 本地对话已经跑通了,换成 OpenClaw 这类智能体框架去调用,就变成连不上、报模型不存在,或者启动之后一直没反应。这篇不讲概念,只走流程:先分清谁是模型服务、谁是调用方,再把地址、端口、模型名三处对齐,最后给一份连不上时的排查顺序。
适合国内网络环境下自己动手的人,也说明哪些做法在纯内网或公司合规场景里不适用。如果你只是想先把本地模型跑起来、还没决定用哪个框架,可以先到 工具目录(/tools) 看看有哪些同类方案再选。
先分清 Ollama 和 OpenClaw 各干什么
Ollama 在本地方案里是模型服务端,负责把模型跑起来并对外提供一个接口;OpenClaw 是调用方,负责编排任务、读写文件、跑工具,它自己不含模型。国内最常见的误区是以为装了 OpenClaw 就等于有模型,结果启动后一直等响应,实际是后端模型服务没起、或者起了但没被指到。
- 模型服务端
- 真正占显存、加载权重、对外提供接口的那一层,需要先单独跑通
- 调用方
- 负责发请求、处理工具调用和任务编排,本身不含模型能力
- 判断顺序
- 永远先验证模型服务能被单独调用通,再接调用方,调不通就别往下走
国内网络下第一步是让模型拉得下来
模型拉取慢或者拉到一半中断,绝大多数不是 OpenClaw 的问题,而是拉取源在国内不通畅。先解决模型落地,再谈对接,顺序反了会浪费很多时间在配置上。可用的手段大致三类:换国内可达的模型分发源、手动导入本地模型文件、或者在有网的机器上拉好之后把模型目录整体拷过来。相关设置改完记得重启服务才生效。
- 独立验证:先不接 OpenClaw,在命令行直接向本地模型问一句,能正常返回才算网络这一关过了
- 换源思路:优先选国内可达的分发源,具体可用地址和参数到 指南中心(/guides) 对应文档核对
- 离线搬运:把整个模型目录拷到目标机器,注意保持目录结构一致,别只拷权重文件
- 目录权限:拷过来的模型目录要给服务运行账号读权限,否则表现为模型列表里看不到
- 生效方式:改完配置重启服务,再重新列一次本地模型确认已经认得出来
地址、端口、模型名三处对齐
接不上绝大多数是这三处没对齐。接口地址要写成本机或局域网可达的形式,写 localhost 在容器、WSL 和跨机场景下经常指错地方;端口要和模型服务实际监听的一致;模型名必须和本地实际存在的名字完全一致,包括标签后缀,少一段就会报找不到模型。鉴权按你本地服务的实际策略填,本地通常不校验,但有些封装会强制要求一个占位值,缺了就报错。
| 配置项 | 常见错法 | 判断标准 |
|---|---|---|
| 接口地址 | 在容器或 WSL 里写 localhost | 换成宿主机可达地址后能通 |
| 端口 | 改过监听端口但没同步改调用方 | 两边数字逐位对上 |
| 模型名 | 漏掉标签后缀或大小写不一致 | 在本地模型列表里能逐字找到 |
| 鉴权字段 | 本地不需要就干脆不填 | 按封装要求填占位值后不再报鉴权错 |
- 先用最简请求打通接口不改 OpenClaw,直接向本地模型服务发一条最简单的请求,确认有正常返回
- 把能通的参数抄进配置把刚才验证成功的地址、端口、模型名原样抄进 OpenClaw 配置,不要凭记忆手敲
- 重启调用方再测改完配置重启 OpenClaw,发一句最短的指令看是否有响应,没响应就去看日志原文
跑不起来时的排查顺序
报错信息不要只看最后一行的结论,要看完整原文。连不上多半是地址端口问题;找不到模型多半是模型名不对或者模型没拉全;一直卡着不出字,多半是显存不够或者上下文设太大。排查时每一步只改一个变量再复测,否则最后不知道是哪一步起的作用。
- 第一步:确认模型服务进程在跑,用进程列表或者直接请求接口验证
- 第二步:确认端口没被别的程序占用,也没被本机防火墙拦掉
- 第三步:看调用方日志里的完整报错,先归类再动手
- 第四步:资源不够时优先降上下文长度和并发,而不是直接换更大的卡
- 第五步:内网和合规场景要额外确认机器能不能出网,模型和依赖是否都能离线准备
每一步只改一个变量,是你排查这类问题的唯一纪律。
装完前自查这几条
跑通不等于装好。下面几条是反复踩过之后总结出来的,照着自查一遍能省掉下次换机器时的重复劳动。涉及数据出内网的项目,先走合规评估,别先跑通再说。
- 模型服务能独立响应,端口固定,模型名固定,配置文件里三处一致
- 关掉当前终端再重开一次,确认不是靠某个临时会话挂着才跑得起来
- 把当前能跑的配置组合记下来,下次换机器直接复用
- 本地模型和框架本身用哪个版本更稳,到 站内站点资料(/sites) 核对当时的记录
- 如果机器不能出网,模型文件和依赖都要提前离线准备好
常见问题
Ollama 和 OpenClaw 必须装在同一台机器上吗?
不必须,但同机最省事。跨机的话要让模型服务的监听地址对本机或局域网可达,并把调用方配置里的地址换成对方 IP;跨机还会引入网络延迟和防火墙问题,排查成本明显更高。个人自用建议先同机跑通,再考虑拆开。
为什么提示找不到模型,但我在命令行里明明能对话?
通常是名字没对齐。命令行里你输的名字可能带标签后缀,配置里只写了前半段;也可能是模型服务换了数据目录,调用方读到的列表和命令行看到的不是同一份。把两边列出的模型名逐字对照一遍,能解决大多数这类报错。
国内网络下模型一直拉不动怎么办?
先确认是不是拉取源的问题,而不是本地服务坏了。可换可达的分发源,或在能正常下载的环境里拉好后把模型目录整体迁移过来。模型没落地之前,对接配置怎么调都没意义,这一步优先级最高。