手上有一台 Mac mini，想本地跑个模型，还想让它接进 OpenClaw 当日常助手，结果一上手就卡在三个地方：统一内存到底够不够、模型该下哪个量化版本、OpenClaw 那边怎么把本地服务认出来。这篇按「先算账、再装、最后排错」的顺序走一遍，给判断标准和可执行动作，不给绝对结论。
手上有一台 Mac mini，想本地跑个大模型，再接进 OpenClaw 当日常助手，实际动手时卡住的地方基本就三个：统一内存到底够不够、模型该下哪个量化版本、OpenClaw 那边怎么把本地服务认出来。这三个问题不解决，装多少遍都是白折腾。
这篇不给你下结论说「某型号一定能跑」，而是按先算账、再量化、然后接线、最后排错的顺序走一遍，每一步给判断标准和可执行动作。你拿自己的机器对一遍，就知道自己这台大概是能跑顺、还是跑不顺。
先算账：Mac mini 的统一内存怎么分配
统一内存是 CPU 和 GPU 共享的，模型权重、KV 缓存、系统本身都在抢同一块。所以别用「内存减去模型体积」这种算法估余量，那个数字没意义。真正该做的是先想清楚你拿它干什么，再倒推档位。
- 系统预留
- 给 macOS 和常驻后台留的那部分，不能算进模型预算
- 模型常驻
- 权重加载后一直占着的那块，取决于参数量和量化档位
- 上下文缓存
- 你开的上下文越长，这块涨得越快，是很多人忽略的大头
- 只做对话、写作、翻译这类短任务，对内存的要求和跑长文档、批量任务差一大截，先定用途再定档位
- 按系统预留、模型常驻、上下文缓存三段留余量，跑不动时优先砍上下文长度，而不是硬换模型
- 同一台机器上同时开浏览器、IDE、备份任务，实际可用余量会被吃掉不少，评估时把这些算进去
- 某个体量的模型在 Mac 上到底占多少，去 /models/deploy 用部署测算页按参数量和量化档位对一遍，比自己拍脑袋准
量化档位怎么挑：别一味追高精度
Mac 上没有独立显存这一说，量化就是省内存最直接的手段。一般从 4-bit 起步试，跑顺了再考虑往上提精度档。精度越高内存涨得越快，但输出质量不是线性提升，很多日常任务在低档量化下差别你根本感知不到。
| 场景 | 档位倾向 | 什么时候不适用 |
|---|---|---|
| 日常对话、写作、翻译 | 低档量化起步，够用就行 | 需要严格格式输出时容易翻车 |
| 长文档问答、摘要 | 优先保上下文，可以用低档 | 上下文开太长时会挤掉模型预算 |
| 代码生成、长链条推理 | 适当往上提精度 | 低档量化下偏差更容易暴露 |
| 批量任务、多轮自动化 | 先测稳定性再定档 | 并发一多，Mac 这条路本身就不合适 |
量化格式之间的差别和取舍，站内 /ai-dict/category/tech 有名词对照，配合 /tools 里的换算工具算体积会快很多。别只看别人推荐哪个档，先按自己的场景选。
跑起来：本地服务怎么被 OpenClaw 认出
这一步最常见的失败原因不是模型不行，是两边对不上。先在 Mac 上把本地推理服务跑通，确认它监听在什么地址和什么端口，这一步没通之前，别急着去配 OpenClaw。
- 确认本地服务活着用 curl 或浏览器直接请求本地服务，能返回内容才算通，这一步别跳
- 记下地址和端口把监听的 host 和 port 写下来，OpenClaw 侧填的就是这个
- 在 OpenClaw 填接入信息填本地服务的接入地址和模型名，模型名要和本地服务里加载的那个一致
- 做一次最小对话验证问一句答一句，通了再往下做别的配置
安全上注意，默认只监听本机就行，需要局域网访问时再改绑定地址，别一上来就开成所有 IP 可访问。另外，同一台机器上换模型或换推理框架后，配置项往往要跟着改，改完先做一次最小对话验证再做别的。可用基线可以拿 /tools/speed-test 量一次，心里有数。
跑不动怎么办：慢和爆内存的排查顺序
先分清是「慢」还是「崩」。慢，多半是模型档位偏高或者上下文开太长；崩，多半是内存不够。两种现象对应两套动作，别混着查。
- 排查顺序建议：降上下文长度、降量化档位、换更小的模型、最后才考虑换机器，别一上来就推翻整套
- Mac 在内存吃紧时会大量使用交换，表现是整体卡顿而不是直接报错，这种时候别继续加压
- 看活动监视器的内存压力和交换使用，比看单个进程占用更能说明问题
- 改完一项就测一次，别一次改好几项，不然出了新问题不知道是哪一步导致的
上线前的自检清单
配置差不多之后，别直接当日常助手用，先跑一遍自检。自检的目的不是证明它跑得动，而是找出它在什么情况下会掉链子，心里有底再用。
- 跑一遍最小任务：问一句、答一句，确认链路通
- 跑一遍长任务：塞一份长文档，看会不会中途掉线或变慢
- 记录当前配置快照：模型名、量化档位、上下文长度、监听地址，换模型时好回退
- 用 /tools/quality-check 或站内检测工具做一次结果抽查，别只看有没有报错
- 连续用一段时间，观察内存和温度，确认不是只有第一次跑得顺
常见问题
Mac mini 到底能不能跑得动本地大模型？
能跑，但取决于你要跑多大的模型和你准备花多少时间去调。日常对话、写作、简单问答这类任务，中等内存配置的 Mac mini 是能撑住的；长上下文、多并发、大参数模型就比较勉强。先明确用途，再按 /models/deploy 的测算页对一遍内存，别先买机器再想跑什么。
内存不够的时候，先降量化还是先换小模型？
建议先调上下文长度，再降量化档位，最后才换模型。因为前两步不需要重新下载权重，改动成本最低；换模型意味着要重新评估效果，前面的调试白做。只有当降完档位质量已经不可接受时，才考虑换一个参数更小的模型。
OpenClaw 连不上本地模型，一般先查哪里？
先确认本地推理服务自己是不是好的：用命令行或浏览器直接访问它的接口，能出结果再谈 OpenClaw。然后核对地址、端口、模型名三项是否和 OpenClaw 里填的一致，这三项最容易写错。最后看服务是不是只监听在本机、有没有被防火墙拦，用 /tools/speed-test 量一次比反复猜快。
