搜「lm studio 和 ollama注意事项」的人,多半已经装完其中一个,正卡在模型下了却跑不动、局域网连不上、显存一直不释放这类事上。这篇不给两个工具做优劣判决,只给一份从上手前到长期用的核对顺序:先确认你要的是窗口还是服务,再逐项检查模型存放、显存占用、监听地址和对外暴露的范围。照着走一遍,能省掉大部分重装和返工。
搜这个关键词的人,多半已经装完其中一个,问题已经冒出来了:模型下完加载半天不出字、另一台电脑连不上、显存明明够却一直报错。装完能跑只是开头,真正决定后面顺不顺的,是几个很早就该定下来的东西。
这篇不给两个工具做优劣判决,它们面向的场景就不完全一样。这里只给一份从上手前到长期使用的核对顺序。你可以对着自己的情况一条条看过去,哪条对不上就先改哪条,能省掉大部分重装。
装之前先定一件事:你要窗口还是要服务
很多人装的时候没想这层,结果用着别扭却说不上原因。LM Studio 的重心是图形界面,加载模型、对话、调参数都在窗口里,适合单机试模型。Ollama 的重心是后台常驻服务加命令行和本地接口,适合给别的程序调用。
判断标准其实很直接。一周内你要写代码去连它,就走 Ollama。只是自己试几个模型看效果,LM Studio 更省事。两个都装也行,但别把两边的模型目录当成同一份,后面会讲为什么。
- 要写代码调用、要给别的工具做后端:优先 Ollama
- 只做人工对话、对比模型输出:优先 LM Studio
- 两者都要,就分开规划目录和端口,别混用
- 团队多人共用一台机器:按服务型工具规划,别指望图形界面做共享
模型目录和可用空间,先规划再下载
两个工具默认都把权重文件放在用户目录下。系统盘小的话,第一次下大模型就可能顶满,等到空间不够报错才回头找路径,情绪已经不太好了。装完第一件事是把模型存放路径改到数据盘,改之前先看现有文件占了多少、还剩多少。
同一个模型在两边各下一份是纯浪费。LM Studio 下的 GGUF 文件能不能给 Ollama 用、怎么导入,站内有一页专门讲这个,别自己瞎试导入命令,试错了还容易把原目录搞乱。
- 下之前先估一遍占用按参数量和量化档位估体积,到 /models/deploy 部署测算页,按你打算用的量化档位算当时的数字,心里先有数。
- 改完路径立刻验证改好后随便下一个最小的模型,确认它落在新路径下,而不是系统盘。
- 定期回看目录下过又忘的模型会一直占着空间,隔一段时间清一次,删之前确认没有别的工具在引用同一份文件。
这里也有不适用的情况:如果你只是临时试一个模型,用完就删,没必要专门改目录,按默认来更省事。
显存不是装上就自动管好
这处最容易返工。Ollama 默认会在空闲一段时间后把模型从显存里放掉,下次请求要重新加载。你感觉像变慢,其实是在重新搬权重。想让它常驻要单独设置,代价是显存一直占着。
LM Studio 里能直接看到每层卸载到 GPU 还是 CPU。层数调错了就会出现「能跑但很慢」的情况。先看它的加载日志,确认是不是大半跑在 CPU 上,这比盯着输出速度猜有用。
| 现象 | 先查什么 | 常见原因 |
|---|---|---|
| 能跑但很慢 | LM Studio 加载日志里的卸载层数 | 大部分层跑在 CPU 上 |
| 隔一阵第一次提问特别慢 | Ollama 是否空闲后卸载了模型 | 默认释放策略,需要就设常驻 |
| 连续几轮后显存还在涨 | 显存曲线和上下文长度设置 | 上下文开太大或没释放 |
| 加载直接报错 | 空闲显存和模型体积是否匹配 | 硬件档位不够,换小档位 |
判断显存够不够,别只看能不能出第一句。连续提问几轮,看显存曲线是否还在爬。硬件档位对应关系可到 /compute/gpus 加速卡规格库对照当时的参数。如果只是偶尔跑一次短对话,没必要折腾常驻,反复加载反而是更省资源的选择。
想给别人用,监听地址和端口是第一道坎
默认只监听本机回环地址,局域网里另一台机器连不上是正常现象,不是坏了。要开放得改绑定地址,改完记得重启服务,很多「改了没生效」就是没重启这一下。
开放监听等于把接口暴露在网段里,谁都能调。家庭或办公网段可以接受,公网机器上这么干得先想清楚有没有鉴权、有没有防火墙。
- 先在本机用本机地址测通,确认服务本身没问题
- 再换局域网地址测,不通就是绑定地址或端口的事
- 最后才考虑跨网段,涉及防火墙和路由
- 端口被占用、容器里访问不到宿主机服务,都归这一层查,和模型无关
接第三方客户端,八成问题出在地址和模型名
很多客户端要的是兼容接口地址。填的时候注意后缀:给的是基础地址,客户端自己会拼路径,多写一段就 404。模型名也必须和本地列表里显示的完全一致,包括标签后缀,少一个冒号就对不上。填之前先在命令行列出模型,把名字复制过去。
连不上按四步排:服务在不在跑、本机能不能访问、地址端口对不对、客户端填的模型名存不存在。这四步走完还没通,再去翻日志。这个顺序的价值在于,每一步都能排除一大片原因,不用一上来就怀疑模型坏了。
测速和延迟基线可以先量一遍,之后觉得变慢时有对比对象。工具在 /tools/speed-test 接口测速,跑出来的数字会变,以当时的为准。
长期用要盯的三件事
升级要先看变更说明。本地工具迭代快,参数名、默认行为、模型格式支持都可能变,升完先拿一个熟模型跑通再处理别的,别一次升完直接上正在做的事。
磁盘会越堆越多,这件事前面提过,长期看是常态。多工具共存时,别让两套服务抢同一个端口,也别同时加载同一张卡跑满,否则两边都慢,还容易误判成模型不行。
如果你在评估要不要继续自建而不是调接口,这笔账站内另有文章拆过,这里只提一句:先算清你实际用多少,再决定方向。
下一步把上面这些容易返工的点过一遍之后,如果你在犹豫是自建还是走接口,可以到 /price-watch 价格追踪看当时各家接口的价格变化,再对照自己的实际用量算一笔账。→常见问题
LM Studio 和 Ollama 能同时装在一台机器上吗?
能,两者不冲突,但要注意别同时加载模型抢显存,也别抢同一个端口。模型文件建议分开放,别指望两边自动共用同一份权重,需要共用时走导入流程。
模型下载完了,Ollama 却说找不到,是怎么回事?
多半是名字对不上,列表里显示的完整名称带标签后缀,调用时少写一段就匹配不到。先在命令行列出全部模型,把名字原样复制过去,再检查模型存放路径是不是被你改过。
局域网其他电脑连不上本地服务,先查哪里?
先确认服务是不是只绑在本机回环地址上,这是默认行为。改绑定地址后必须重启服务才生效,然后确认防火墙放行了对应端口,最后才检查客户端填的地址和模型名。
显存一直被占着不释放,是出问题了吗?
多数是正常行为,服务会把模型留在显存里等下一次请求,避免反复加载。如果你需要它让出资源给别的程序,去调空闲卸载的配置;不想改就手动重启服务。
什么时候不该用这两个,直接调接口更省事?
当你只是偶尔用、或者需要的是很强的通用能力而不是可控的本地环境时,本地这套的维护成本会超过收益。判断点在于你有没有必须把数据留在本机的硬要求。