M5 Max MacBook Pro实测:本地AI能干哪10类活
作者:邓震东作者 | Don来源 | 至顶AI实验室本地 AI的视频和文章,很多都在聊模型、TPS、显存、模型参数。但普通用户可能并不知道,买了一台能够运行大模型的机器,具体能用它做什么?至顶 AI 实验室在录制本地 AI 视频的时候,通常是结合真实场景进行测试。上次,我就用一台华硕 QN10 迷你主机搭建了一套 AI
关于本地 AI 的视频和文章,大多在讲模型、TPS、显存、模型参数。可普通用户未必清楚:买一台能跑大模型的机器,到底能拿它做什么?
至顶 AI 实验室录本地 AI 视频时,一般会放到真实场景里测。上次我用一台华硕 QN10 迷你主机搭了一套 AI 客服系统。比起单看模型跑分,我更想知道 AI PC 能不能真把问题解决掉。
最近我看到新博主 Alex Grankin 发的一条视频。他的 YouTube 频道注册才 5 个月,粉丝总共 7000,已经有 4 条播放过 10 万的视频,算不错了。视频里他测了 12 种本地 AI 应用,从语音输入、图片生成,到阅读合同、制作 PPT,再到开发工具和运行
一个重要结论是:32GB 内存,可能是本地 AI 具备较完整生产力的分水岭。
我把视频里的 12 项工作重新归成 10 个应用场景,看看现在的 AIPC 究竟能做些什么。
本地 AI 已经能做什么?10个实际应用
Alex 使用一台128GB
语音输入其实分两步:先靠语音识别模型把声音转成文字,再由文本模型清掉口头语、重复表达和说到一半改口的内容。
比如讲到「周一……不对,应该是周二」,普通语音识别可能把两个日期都记下来,文本模型则能留下最终的说法。
视频推荐了开源工具 Handy,Mac、Windows 和 Linux 都能用。语音识别可以选择
其中 Parakeet 体积小、速度快,适合日常输入;
这类任务对硬件要求很低,8GB 内存就能运行。
一个人说话的录音好处理,多人会议里却常有打断、抢话的情况。这时候模型不光要识别文字,还得分辨是谁在说。
视频对比了轻量语音模型和
这也是 Otter、Fireflies 等会议记录工具的核心功能之一。
所以,简单录音用轻量模型就行,多人会议则值得上更大的转录模型。
声音克隆
他展示的案例是改培训视频里的一段旁白,不用重新录音,就能生成新的语音。
视频推荐了 Ming 模型,也可以通过
生成的语音虽然还有些细节差异,整体已经相当不错。16GB 内存就可以尝试这类任务。
图片生成主要有两种:用文字生成图片,以及对已有图片做修改。
Alex 用 FLUX 系列模型测了菜单、产品海报等场景。早期模型容易出现的文字拼写错误、价格遗漏等问题,新版本在这些测试里改善明显。
不过,本地图片生成也有短板:人物手部细节不够自然,局部编辑时还可能改到别的元素。
所以,它现在能接手一部分实际设计活,可要说完全顶替成熟的商业图片生成服务,还差得远。
跑这项任务,建议内存24GB上下;把其他应用关掉,16GB的机器也能试一试。
生成图片之外,AI 还能把图里的信息读出来。比如拍一张超市小票传上去,让 AI 把价格、税额和日期提出来,再整理成表格;或者传一张柱状图,让模型判断哪个月份增长最快。
视频测试了
测试结果是这样的:专用 OCR 模型速度快,但一般只吐文字;通用视觉模型能接着理解图片,给出结构化的结果。
识别简单票据和图片,16GB 内存够用;图表复杂的话,建议上32GB。
从这一步起,AI 得靠自己的知识和推理来作答。
Alex 拿 Qwen 3.8 27B 做测试,题目包括数学计算、电脑操作、历史事实,还有并不存在的小说情节。
结果是:简单计算和操作类问题,模型能答上来;碰到历史事实就容易出错。打开思考模式,部分回答有改善;再叠加联网搜索,需要外部信息的问题才答得更靠谱。
说到底,本地模型已经能应付不少日常问答,但它的回答不能直接当成事实用。
这类模型,视频建议用32GB 内存来跑。
写邮件、润色、翻译、校对,是本地模型用得比较成熟的一块。
Alex 给了模型六条要点和五项约束,让它写一封客户邮件,要求日期、价格都写准,还不能主动提折扣。
测试里,Qwen 3.8 27B 基本守住了这些要求。他还让模型把一封怒气冲冲的账单邮件改写成冷静、专业的回复,几秒钟就完成了。
问题是,模型偶尔会自己加进原文没有的信息,生成的东西还是得人工过一遍。
视频的评价是,Qwen 3.8 27B 在遵循写作要求上表现不错,而
这个测试是我在视频里比较喜欢的。
Alex 拿了一份37页的办公合同,让模型回答租金、逾期付款费用、房东进屋前要提前多久通知等问题。
他用的是Qwen 3.8 27B 模型,将
接着,模型与合同都维持原样,他只调整了其中一个参数。
模型没换,仅仅改了一项设置,出来的结果便截然两样。
可见本地 AI 读文档,光看模型参数不够,还得留意别的东西。
遇到长合同、大文档,32GB 算是个相对够用的门槛。
Alex 交给模型两页材料,让它围绕某个主题做一套演示文稿。
技术上有个小插曲:本地模型产出的不是 PPTX 文件,而是 HTML,再借浏览器把幻灯片放出来。
全程花了约24分钟,成品的页面能用方向键翻页,图表和数据也都在。
成品谈不上完美,有些文字叠在一起,留白也不合理,不过核心数据大体都取自原始材料。
他另外比较了不同思考强度:强度高时内容更齐全,强度低时则偏简单。
也就是说,本地模型已能分担一部分演示文稿的活儿,可真要交付还得人来修。
最后两项应用,最能看出 AI 生产力发生了什么变化。
头一项是做简单的网页和工具,比如一个预算管理器,能加支出、改记录、设预算。
Alex 用 Qwen 3.8 27B 模型生成网页应用,再用自动化脚本逐项测功能。全程约43分钟,基本功能跑得通,UI 上还有些毛病。
第二项是
视频里,Alex 用的是
他还在文件夹中特意藏了一条指令,要求
当然,这只是有限场景下的测试。Alex 也强调,Agent 应当运行在
任务一旦变复杂,比如连做几十步、开发大型软件或做深度研究,本地模型还是明显吃力。
视频里也试了更复杂的应用开发,像带数据库、API接口、用户登录和权限管理的完整软件项目。
这就不是生成个简单网页了,而是要模型连着干一大堆开发活。Alex 认为本地模型在这块仍落后于顶级云端模型。哪怕有128GB内存,跑本地模型效果也不够看;想试更强的开放模型,内存甚至要上到512GB。
所以他给出的建议是:简单网页、小工具交给本地模型没问题,真正复杂的软件开发眼下还是更适合用
10项工作讲完,Alex 最后做了个归纳:不同内存的机器,各自能扛下哪些任务?
内存容量
主要应用
8GB
语音输入和基础转录这类活儿,它同样能应付。
16GB
声音克隆
24GB
图片生成和各种视觉任务,跑起来也更从容。
32GB
再往上,27B模型、合同分析、做PPT、网页开发,以及Agent类任务也进入了可选范围。
这一段对应的内存档位是48~64GB。
到了这个级别,可以跑精度更高的模型,上下文也能拉得更长。
128GB
模型规模更大、精度更高,运行时的余量也更充足。
512GB
想试大型开放模型,或者做复杂的开发任务,就得往这个档位走。
从16GB加到32GB,能做的事情种类会明显变多;可32GB升到128GB,新解锁的应用并没有那么多。
视频里的测试显示,32GB跑一个相对强的27B模型不成问题,日常的知识工作不少都能覆盖。128GB的意义更多在于跑更大的模型、用精度更高的量化版本,或者为更长的上下文腾地方。
当然,并非每台32GB的机器都能得到一样的结果。Mac
但至少能说明,本地AI并非只有128GB、256GB乃至512GB的大内存设备才用得上。
至顶AI实验室洞见
看完这条视频,我认为Alex的切入角度选得不错——从普通用户的工作场景出发,去回答一台电脑到底能干什么。
他也没有把本地AI刻意神化,而是指出复杂应用开发、长链路任务和深度研究还是交给云端模型更合适。这点我同样认可。
问题是,能跑通一次任务,和已经拥有稳定的生产力,并不是一回事。
如果视频能把长期使用中的上下文长度、成功率、错误率和人工干预成本都充分验证一遍,那就更完整了。