windows本地部署ollama+openclaw

模型与算力

给 Windows 用户一份把 Ollama 与 OpenClaw 装到本机跑起来的顺序清单:先装谁、怎么确认服务通、卡住时按哪几步排查。

很多人在 Windows 上装本地模型,第一步就乱了:Ollama 装完能对话,但 OpenClaw 连不上;或者两个都装了,却不知道该先启动哪个、端口要不要改。这篇按安装顺序走一遍,每一步都给出「怎么确认这步成了」,卡住时也有排查顺序。具体用哪个模型、要多大的卡,到站内页面按当时的数字核对。

在 Windows 上装本地模型,最容易乱的地方其实不是安装本身,而是顺序。很多人先把 Ollama 装好、随便点开对话觉得没问题,转头去配 OpenClaw,结果一直转圈或者直接报连接拒绝,然后开始怀疑模型、怀疑显卡、怀疑客户端写得不行,其实绝大多数时候只是第一步没验证到位,或者地址填错了。

这篇按安装顺序走一遍,每一步都给出「怎么确认这步成了」,卡住时也有固定的排查顺序。具体要选哪个模型、要多大显存或内存,这篇不写死数字,到站内模型与部署测算页面按当时的数字核对就行。

先把两个东西的角色分清

Ollama 是模型运行与托管层:负责把权重拉下来、起一个本地推理服务、对外给一个 HTTP 接口。它本身不是聊天界面,也不是智能体,甚至你装完之后不配任何客户端也能用命令行跟它对话。OpenClaw 这类客户端是调用方,自己不跑模型,只是拿着 Ollama 的地址去发请求,再负责工具调用、会话管理这些上层逻辑。

  • Ollama:跑模型、管权重、对外提供本地接口,服务要先独立跑通。
  • OpenClaw:只负责发请求和上层逻辑,不装不改模型本身。
  • 正确顺序永远是「先让 Ollama 独立跑通,再把 OpenClaw 指过去」,反过来做只会看到连接失败,分不清是谁的问题。
  • 如果你还在犹豫要不要走本地这条路,先去站内部署测算页看投入产出,再决定要不要往下装。

装 Ollama 并在 Windows 上确认服务真的起来了

Windows 版装完之后,默认会作为后台服务常驻,右下角托盘能看到图标。这一步先别急着改启动方式,用默认值跑通再说。很多人在这里犯的错是「看到托盘图标就认为服务好了」,图标只代表进程活着,不代表接口能正常响应。

  1. 第一步:确认接口能返回在浏览器或命令行里访问它的默认本地地址,能返回版本信息或模型列表,才算服务正常;返回不了就重启一次服务再试,不要继续往下走。
  2. 第二步:拉一个小模型做冒烟测试先用体量小的模型确认能正常出字,排除网络和下载通道的问题,再换成你真正想用的目标模型;大模型下载慢,容易被误判成卡死。
  3. 第三步:确认模型落在哪模型默认放在系统盘的用户目录下,C 盘紧张的话要提前改存储路径,改完必须重启服务再拉一次验证,否则改了等于没改。

这三步都过了,Ollama 这一层就算稳了。后面 OpenClaw 出任何问题,都可以先把锅从 Ollama 身上摘掉,排查范围立刻小一半。

地址与端口:OpenClaw 填哪个

OpenClaw 侧要填的是 Ollama 的服务地址,不是某个模型页面或者下载页的地址。填错最典型的表现就是一直转圈,或者直接报连接被拒绝。填完之后,先点一次配置里「测试连接」之类的按钮,能拉出模型列表,再去聊。

部署形态OpenClaw 里填什么常见坑
两个都在同一台 Windows 上本地回环地址把模型名当地址填了
Ollama 在本机,OpenClaw 在容器里宿主机局域网 IP填 localhost,容器里指向自己
两台不同机器运行 Ollama 那台的局域网 IP忘了开监听范围或漏了防火墙

还有一种情况要注意:如果你改了端口,OpenClaw 那边必须同步改,两边对不上时就表现为连接超时,而不是立刻报错,很容易被当成网络慢。

第一次跑通:从最小任务开始验

连接测试通过之后,不要立刻上一个带文件读写和一堆工具调用的复杂任务。先用「你好,回一句话」这种零工具、零文件的请求确认链路通,再一层一层加东西。

  • 先测纯对话,确认模型能正常返回内容。
  • 再加系统提示词,确认提示词被正确读到。
  • 再加一个最简单的工具调用,确认工具链路通。
  • 最后才上多工具、多文件的复杂任务,每加一层就重测一次。
  • 留意首次加载延迟:模型第一次被调用要载入显存或内存,响应会明显偏慢,别当成卡死。

跑通之后,把能用的那套配置记一份:地址、模型名、关键参数。换机器、重装或者装第二台的时候直接复用,省掉一轮重新试错。

卡住时的排查顺序

本地部署出问题,最大的浪费是乱试。按固定顺序走,四步之内基本能定位到是哪一层。

  1. 第一步:查服务Ollama 的本地地址能不能直接返回结果。这一步不通,后面全部不用看,先把服务修好。
  2. 第二步:查网络OpenClaw 所在环境和 Ollama 是否在同一台机器,地址写法是否匹配;跨机还要看防火墙和监听范围。
  3. 第三步:查模型确认目标模型确实已经拉下来,名字拼写和标签完全一致;多数「找不到模型」都是名字或标签不对。
  4. 第四步:查日志两边各自的日志都要看,先盯报错里的第一个错误,不要被后面一连串连带报错带偏。

常见问题

Ollama 和 OpenClaw 必须装在同一台 Windows 机器上吗?

不是必须。同机最省事,地址填本地回环即可。分机部署要多做两件事:让 Ollama 监听局域网地址,并放行对应端口,同时确认两边网络互通。分机的好处是把模型压在性能更好的那台机器上,客户端机器可以轻一点。具体端口和参数以你安装版本的说明为准。

装完之后对话很慢,是配置问题还是硬件问题?

先分清是首字慢还是持续慢。首次调用要加载模型,慢是正常的;持续慢通常是模型体量超出可用显存、参数被迫放到内存里跑。可以在同一个模型上先换更小的量化版本对比,如果明显变快,就是体量问题而不是配置问题。硬件和体量的对应关系,到 /models/deploy 按当时的数值核对。

升级模型或换模型后 OpenClaw 连不上,怎么快速回退?

先把模型名改回升级前那个能用的名字,确认链路恢复,再排查新模型的问题。常见原因是模型标识变了、旧模型被删了、或者新模型需要更高的显存导致加载失败。排查时看 OpenClaw 侧返回的原始错误信息,通常第一行就写明了是找不到模型还是请求超时。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。