M5 Max MacBook Pro实测:本地AI能干哪10类活

资讯 腾讯网 作者:至顶AI实验室 全文 3360 字 · 约 9 分钟读完 分类视频生成大模型

作者:邓震东作者 | Don来源 | 至顶AI实验室本地 AI的视频和文章,很多都在聊模型、TPS、显存、模型参数。但普通用户可能并不知道,买了一台能够运行大模型的机器,具体能用它做什么?至顶 AI 实验室在录制本地 AI 视频的时候,通常是结合真实场景进行测试。上次,我就用一台华硕 QN10 迷你主机搭建了一套 AI

所属频道 模型发布视频图像生成

关于本地 AI 的视频和文章,大多在讲模型、TPS、显存、模型参数。可普通用户未必清楚:买一台能跑大模型的机器,到底能拿它做什么?

至顶 AI 实验室录本地 AI 视频时,一般会放到真实场景里测。上次我用一台华硕 QN10 迷你主机搭了一套 AI 客服系统。比起单看模型跑分,我更想知道 AI PC 能不能真把问题解决掉。

最近我看到新博主 Alex Grankin 发的一条视频。他的 YouTube 频道注册才 5 个月,粉丝总共 7000,已经有 4 条播放过 10 万的视频,算不错了。视频里他测了 12 种本地 AI 应用,从语音输入、图片生成,到阅读合同、制作 PPT,再到开发工具和运行

一个重要结论是:32GB 内存,可能是本地 AI 具备较完整生产力的分水岭。

我把视频里的 12 项工作重新归成 10 个应用场景,看看现在的 AIPC 究竟能做些什么。

本地 AI 已经能做什么?10个实际应用

Alex 使用一台128GB

1. 语音输入

语音输入其实分两步:先靠语音识别模型把声音转成文字,再由文本模型清掉口头语、重复表达和说到一半改口的内容。

比如讲到「周一……不对,应该是周二」,普通语音识别可能把两个日期都记下来,文本模型则能留下最终的说法。

视频推荐了开源工具 Handy,Mac、Windows 和 Linux 都能用。语音识别可以选择

其中 Parakeet 体积小、速度快,适合日常输入;

这类任务对硬件要求很低,8GB 内存就能运行。

2. 会议转录

一个人说话的录音好处理,多人会议里却常有打断、抢话的情况。这时候模型不光要识别文字,还得分辨是谁在说。

视频对比了轻量语音模型和

这也是 Otter、Fireflies 等会议记录工具的核心功能之一。

所以,简单录音用轻量模型就行,多人会议则值得上更大的转录模型。

3. 

声音克隆

他展示的案例是改培训视频里的一段旁白,不用重新录音,就能生成新的语音。

视频推荐了 Ming 模型,也可以通过

生成的语音虽然还有些细节差异,整体已经相当不错。16GB 内存就可以尝试这类任务。

4. 图片生成

图片生成主要有两种:用文字生成图片,以及对已有图片做修改。

Alex 用 FLUX 系列模型测了菜单、产品海报等场景。早期模型容易出现的文字拼写错误、价格遗漏等问题,新版本在这些测试里改善明显。

不过,本地图片生成也有短板:人物手部细节不够自然,局部编辑时还可能改到别的元素。

所以,它现在能接手一部分实际设计活,可要说完全顶替成熟的商业图片生成服务,还差得远。

跑这项任务,建议内存24GB上下;把其他应用关掉,16GB的机器也能试一试。

5. 图片理解

生成图片之外,AI 还能把图里的信息读出来。比如拍一张超市小票传上去,让 AI 把价格、税额和日期提出来,再整理成表格;或者传一张柱状图,让模型判断哪个月份增长最快。

视频测试了 

测试结果是这样的:专用 OCR 模型速度快,但一般只吐文字;通用视觉模型能接着理解图片,给出结构化的结果。

识别简单票据和图片,16GB 内存够用;图表复杂的话,建议上32GB。

6. 本地问答

从这一步起,AI 得靠自己的知识和推理来作答。

Alex 拿 Qwen 3.8 27B 做测试,题目包括数学计算、电脑操作、历史事实,还有并不存在的小说情节。

结果是:简单计算和操作类问题,模型能答上来;碰到历史事实就容易出错。打开思考模式,部分回答有改善;再叠加联网搜索,需要外部信息的问题才答得更靠谱。

说到底,本地模型已经能应付不少日常问答,但它的回答不能直接当成事实用。

这类模型,视频建议用32GB 内存来跑。

7. 写作与翻译

写邮件、润色、翻译、校对,是本地模型用得比较成熟的一块。

Alex 给了模型六条要点和五项约束,让它写一封客户邮件,要求日期、价格都写准,还不能主动提折扣。

测试里,Qwen 3.8 27B 基本守住了这些要求。他还让模型把一封怒气冲冲的账单邮件改写成冷静、专业的回复,几秒钟就完成了。

问题是,模型偶尔会自己加进原文没有的信息,生成的东西还是得人工过一遍。

视频的评价是,Qwen 3.8 27B 在遵循写作要求上表现不错,而

8. 阅读合同

这个测试是我在视频里比较喜欢的。

Alex 拿了一份37页的办公合同,让模型回答租金、逾期付款费用、房东进屋前要提前多久通知等问题。

他用的是Qwen 3.8 27B 模型,将

接着,模型与合同都维持原样,他只调整了其中一个参数。

模型没换,仅仅改了一项设置,出来的结果便截然两样。

可见本地 AI 读文档,光看模型参数不够,还得留意别的东西。

遇到长合同、大文档,32GB 算是个相对够用的门槛。

9. 做 PPT

Alex 交给模型两页材料,让它围绕某个主题做一套演示文稿。

技术上有个小插曲:本地模型产出的不是 PPTX 文件,而是 HTML,再借浏览器把幻灯片放出来。

全程花了约24分钟,成品的页面能用方向键翻页,图表和数据也都在。

成品谈不上完美,有些文字叠在一起,留白也不合理,不过核心数据大体都取自原始材料。

他另外比较了不同思考强度:强度高时内容更齐全,强度低时则偏简单。

也就是说,本地模型已能分担一部分演示文稿的活儿,可真要交付还得人来修。

10. 开发工具与

最后两项应用,最能看出 AI 生产力发生了什么变化。

头一项是做简单的网页和工具,比如一个预算管理器,能加支出、改记录、设预算。

Alex 用 Qwen 3.8 27B 模型生成网页应用,再用自动化脚本逐项测功能。全程约43分钟,基本功能跑得通,UI 上还有些毛病。

第二项是 

视频里,Alex 用的是

他还在文件夹中特意藏了一条指令,要求

当然,这只是有限场景下的测试。Alex 也强调,Agent 应当运行在

任务一旦变复杂,比如连做几十步、开发大型软件或做深度研究,本地模型还是明显吃力。

视频里也试了更复杂的应用开发,像带数据库、API接口、用户登录和权限管理的完整软件项目。

这就不是生成个简单网页了,而是要模型连着干一大堆开发活。Alex 认为本地模型在这块仍落后于顶级云端模型。哪怕有128GB内存,跑本地模型效果也不够看;想试更强的开放模型,内存甚至要上到512GB。

所以他给出的建议是:简单网页、小工具交给本地模型没问题,真正复杂的软件开发眼下还是更适合用

32GB 究竟意味着什么?

10项工作讲完,Alex 最后做了个归纳:不同内存的机器,各自能扛下哪些任务?

内存容量

主要应用

8GB

语音输入和基础转录这类活儿,它同样能应付。

16GB

声音克隆

24GB

图片生成和各种视觉任务,跑起来也更从容。

32GB

再往上,27B模型、合同分析、做PPT、网页开发,以及Agent类任务也进入了可选范围。

这一段对应的内存档位是48~64GB。

到了这个级别,可以跑精度更高的模型,上下文也能拉得更长。

128GB

模型规模更大、精度更高,运行时的余量也更充足。

512GB

想试大型开放模型,或者做复杂的开发任务,就得往这个档位走。

从16GB加到32GB,能做的事情种类会明显变多;可32GB升到128GB,新解锁的应用并没有那么多。

视频里的测试显示,32GB跑一个相对强的27B模型不成问题,日常的知识工作不少都能覆盖。128GB的意义更多在于跑更大的模型、用精度更高的量化版本,或者为更长的上下文腾地方。

当然,并非每台32GB的机器都能得到一样的结果。Mac

但至少能说明,本地AI并非只有128GB、256GB乃至512GB的大内存设备才用得上。

至顶AI实验室洞见

看完这条视频,我认为Alex的切入角度选得不错——从普通用户的工作场景出发,去回答一台电脑到底能干什么。

他也没有把本地AI刻意神化,而是指出复杂应用开发、长链路任务和深度研究还是交给云端模型更合适。这点我同样认可。

问题是,能跑通一次任务,和已经拥有稳定的生产力,并不是一回事。

如果视频能把长期使用中的上下文长度、成功率、错误率和人工干预成本都充分验证一遍,那就更完整了。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 李彦宏APEC中英文两场对话:AI价值最终在应用层

    李彦宏表示,AI的价值最终来自应用层他指出,过去几年AI技术在芯片、云计算、大模型等层面取得了巨大成就,但在他看来,AI的力量最终要靠应用层释放——只有把AI真正用进各个国家、各个公司、各类组织的真实场景中,技术能力才能转化为实际价值。

    来源 TechWeb
  2. 李彦宏APEC谈AI:价值在应用层,最紧迫是找到合适场景

    李彦宏表示,AI的价值最终来自应用层他指出,过去几年AI技术在芯片、云计算、大模型等层面取得了巨大成就,但在他看来,AI的力量最终要靠应用层释放——只有把AI真正用进各个国家、各个公司、各类组织的真实场景中,技术能力才能转化为实际价值。

    来源 TechWeb
  3. 王兴兴看2026年AI:用“激动人心”形容,底层突破快过外界感知

    11月17日,在亚太经合组织(APEC)工商领导人峰会上,宇树科技创始人王兴兴作为科技企业代表在现场分享了他对2026年AI发展态势的感受。他表示,未来几年AI大模型与机器人领域的潜力十分巨大,是当下最让他感到激动的方向。在他看来,普通大众目前看到的AI技术、机器人技术进展,大多只是“水面以上”的部分;而在公众视野之.

    来源 腾讯网
  4. AI芯片设计,进入混战时代

    如果说过去几年AI芯片行业的竞争,主要围绕GPU算力、HBM带宽和先进制程展开,那么现在,这套竞争逻辑正在发生变化。 大模型的训练和推理需求不断变化,芯片厂商发现,过去那些相对成熟的设计思....

    来源 腾讯网
  5. 企业级AI终端赛道迎来新玩家 深兰科技转型提速

    中经记者 徐倩 上海报道在豆包AI手机验证消费端需求后,企业级AI终端赛道迎来新玩家。近日,深兰科技联合华为发布企业级大模型原生智能体工作手机Wowoker,尝试把智能体从“回答问题”推向“执行业务”:帮销售找客户、打电话、加微信、分析意向、管控沟通风险,并在员工离职后帮助企业锁住客户资产。与消费级AI手机不同,...

    来源 腾讯网
  6. 谷歌 Gemini4Carbon 入驻 WorkBuddy,百万 Token 上下文向 Pro 用户开放

    腾讯 WorkBuddy 国际版于11月15日宣布正式接入谷歌 Gemini4Carbon 大模型,面向复杂推理和长周期任务处理场景提供模型支持,目前仅向 Pro 计划用户开放。 Gemini4Carbon 是谷歌面向长周期智能体工作流推出的模型,适用于复杂知识工作、软件工程、网络安全及科学推理等任

    来源 AI 开发者社区
  7. 腾讯WorkBuddy接入Gemini4Carbon:百万Token上下文向Pro用户开放

    腾讯WorkBuddy国际版11月15日宣布接入谷歌Gemini4Carbon大模型,面向复杂推理和长周期任务,目前仅向Pro计划用户开放。该模型面向长周期智能体工作流,适用于复杂知识工作、软件工程、网络安全及科学推理,支持文本、图像、音频和视频多模态输入,输入输出合计上下文窗口最高达100万Token。

    来源 AI 产业速递
  8. 百望股份CEO王强宇:AI财税产品如何落到任务链上

    企业把大模型接进产品之后,新的经营问题才刚刚展开。客户提出一项任务,系统能拿到哪些信息,由谁核准结果,出现例外时如何处理,都会影响AI能否持续投入使用。产品演示中的能力,需要经由完整的服务过程才能转化为客户价值。 王强宇出任百望股份首席执行官(CEO),为观察这项变化提供了一个具体切口:王强宇如何将百望的财税场景积累转

    来源 AI 行业观察
  9. Looki推Loom模型:第一视角感知能否撑起AI长期记忆

    Looki推出的Loom模型系列不再只是被动回答问题,而是通过视觉和音频连续感知用户的第一视角生活。它将零散的观测数据组织成带有时间戳和证据的经历片段,并分层存储为可检索的长期记忆。相比传统的大语言模型,Loom更擅长处理“我上周把钥匙放哪了”这类需要回溯具体生活场景的问题,且在推理成本和记忆准确性上展示了新的技术路径

    来源 AI 应用前沿
  10. 阿里千问4 Max发布:2.4万亿参数,单任务成本降58%

    作者|桦林舞王编辑|靖宇底座架构重写,单任务成本暴降近六成,阿里把旗舰模型拉进了真实排班表。终于,一款国产旗舰模型现身了。11 月 16 日,阿里千问正式发布新一代旗舰模型 Qwen4-Max。就在五天前,它的预览版 qwen4-max-preview 刚在 Token Plan 里低调露过面,今天正式版直接亮出了完整

    来源 腾讯网
  11. Qwen4-Max发布:2.4T参数、百万上下文,单任务成本降58%

    11 月 16 日,阿里巴巴发布全新一代基座大模型 Qwen4-Max,总参数 2.4T,具备原生视觉能力,支持百万上下文。基于创新的模型架构和训练优化,Qwen4-Max 以更少的 Token 消耗实现了更高的性能,在智能体和编程等关键能力项上持续进化:在权威的全球前端编程盲测 CodeArena 中,Qwen4 位

    来源 AI 行业观察
  12. 阿里发布Qwen4并上线Qwen4-Max:Token减半、得分升近28%

    阿里巴巴11月16日正式发布全新一代基座大模型 Qwen4,千问 AI 平台首发上线 Qwen4-Max,API 服务与 Token Plan 同步开放。模型采用基于 Qwen 稀疏注意力(QSA)的全新 MoE 架构,总参数2.4T,具备原生视觉与长程任务稳定交付能力,支持百万上下文,可调用专业工

    来源 AI 开发者社区
  13. 武显瑾EVA战队:48小时如何把实机成功率从10%做到70%?

    文|周小燕 编辑|徐青阳摘要:同一颗大脑,同一道难题,不同的破局之道。“比赛第一天,我们拿到官方提供的公开数据集进行训练,却发现我们模型的成功率大概只有10%。”11月16日上午,在上海张江科学会堂举行的首届蚂蚁灵波具身大模型挑战赛决赛路演现场,来自“EVA”战队的武显瑾讲述了团队在过去48小时里的经历。“而在...

    来源 腾讯网
  14. 阿里发布Qwen4,千问平台首发Qwen4-Max:Token减半、得分涨近28%

    11月16日,阿里发布新一代基座大模型Qwen4,千问AI平台首发Qwen4-Max,API与Token Plan同步开放。该模型采用Qwen稀疏注意力MoE架构,总参数2.4T,支持百万上下文、原生视觉与长程任务稳定交付,可调用工具并分阶段交付;评测中同档位较上代提升。

    来源 AI 产业速递
  15. 梁文锋越过聊天框

    (本文作者为 字母AI,钛媒体经授权发布)文 | 字母AI11月15日下午,突然有多位DeepSeek用户表示,当他们想接着几天前的对话往下聊时,手机App就会弹出一条提示:“由于算力不足,已超过72小时的长对话暂不可用,可导出对话到其他App使用。”社区里,有用户整理了同时出现的另外几种报错,比如“内容超长,请删减后

    来源 腾讯网
  16. 蚂蚁灵波挑战赛落幕:TARS战队真机评测82.5分夺冠

    11月16日,蚂蚁灵波首届具身大模型挑战赛总决赛结果出炉。 来自福田实验室、西北工业大学、普渡机器人、天津大学的五位选手组成的“TARS”战队获得一等奖;华中科技大学、清华大学深圳研究院、湖北元一智能的三位选手组成的“EVA”战队,以及天津大学、北京大学、中国科学院自动化研究所三位选手组成的“SST

    来源 AI 开发者社区
  17. TARS战队:00后带队夺蚂蚁灵波具身大模型赛最高分

    11月16日,蚂蚁灵波首届具身大模型挑战赛总决赛结果出炉。 来自福田实验室、西北工业大学、普渡机器人、天津大学的五位选手组成的“TARS”战队获得一等奖;华中科技大学、清华大学深圳研究院、湖北元一智能的三位选手组成的“EVA”战队,以及天津大学、北京大学、中国科学院自动化研究所三位选手组成的“SST”战队获得二等奖;“

    来源 AI 行业观察
  18. 蚂蚁灵波首届具身大模型挑战赛收官:TARS战队82.5分夺冠

    11月16日,蚂蚁灵波首届具身大模型挑战赛总决赛结果出炉。“TARS”战队获一等奖,成员来自福田实验室、西工大、普渡机器人、天津大学;“EVA”战队(华科、清华深研院、湖北元一智能)和“SST”战队(天大、北大、中科院自动化所)获二等奖;“Vida”“FDU_SONIC”“ai-robot”获三等奖。

    来源 AI 产业速递
向下滚动自动加载更多