高通进博会秀端侧MoE智能体：手机AI从修图走向办事

从“能拍照”到“会办事”，终端AI正走到转折点上

过去三四年，手机里的AI变了不少。大家最早感受到的，多半是拍照更好看了——算法自动调光影、把路人抹掉，这些算是AI在终端落地的早期成绩。再往后，语音转录、实时翻译、简易聊天机器人也一个个上线了。

不过说句实话，这些功能基本还是各干各的。让它认一张发票，它就只认发票；让它总结长文，它就只做总结。彼此之间不通气。真要让它理解“帮我订一张明天去上海的机票，并通知助理”，那就得懂意图、跨应用操作、还得编排任务。眼下端侧的小模型干这种系统级的活，往往撑不住。

终端侧AI眼下正卡在一个节点上：从只解决单一任务，转向给出完整的智能体（Agent）体验。也就是说，手机不光要“听得懂”，还得“做得到”，而且是在本地做完，不靠云端。

为什么非要“端侧优先”？

一说AI，很多人头一个想到的还是云端大模型。毕竟云端算力近乎无限，知识面也广。可高通给出的路子是“端侧优先”（on-device first），也叫“计算连续体”。

这么做不只是为了省流量。云端推理每回都要烧Token、占GPU资源、付调度成本，还会被网络波动拖累。把合适的AI能力留在端侧，响应更快，也更稳。更关键的是隐私和个性化。

打个比方，云端像一座通用图书馆，什么书都有，可它不知道你是谁。端侧更像你的私人秘书，清楚你的作息、喜好、位置，连你刚在微信里聊了什么都门儿清。靠着这些“私有知识”，端侧AI才做得出主动式服务——比如你快到机场时，登机牌自己弹出来，而不是等你开口问“我的航班是多少”。

当然，端侧并非要替掉云端。复杂的逻辑推理、海量知识检索，仍旧交给云端；实时、个性化、涉及隐私的操作，留在端侧。两边配合起来，体验才算完整。

MoE：手机小模型变聪明的关键

想在手机有限的内存和功耗里跑更聪明的模型，传统的大语言模型（Dense Model）有些吃力。

传统的Dense模型，拿一个30亿参数的来说，不管处理什么任务，这30亿个参数每次都得全跑一遍。好比家里只请了一个全能厨师，你想吃鲁菜还是淮扬菜，都得他一个人从头忙到尾，又累又慢。

MoE（Mixture of Experts，混合专家模型）的路子不同。它把模型拆成许多“专家”模块，有的擅长数学，有的擅长写作，有的擅长代码。你要写代码，就只唤醒“代码专家”，别的专家歇着。这样一来，模型总参数量可能很大（比如20个专家模块），但每次推理真正激活的参数很少（比如只调用2-3个）。

这对终端设备太要紧了。手机和PC的电池、散热、内存都有限。目前主流端侧模型多在20亿到40亿参数之间，这个规模做做摘要、聊聊天还凑合，可要处理复杂规划，准确率可能只有六七成。引入MoE后，单次推理功耗不增加，模型的智力上限却能大幅抬高，复杂任务的完成度也更高。

进博会演示背后：不只是模型，更是一套系统工程

高通在第九届进博会上亮出了一个端侧MoE智能体Demo。看着只是手机在自动操作App，背后却是一整条产业链的协同优化。

MoE模型要在端侧跑起来，有两块硬骨头得啃：

第一，怎么预测下一步该用哪个专家？ 第二，怎么把这些专家从存储里快速调进内存？

大模型推理时，DDR带宽往往是瓶颈。要是等任务来了才去加载专家模块，用户就会觉得卡。高通这次拉来三位伙伴：阶跃星辰负责把模型本身的智能水平提上去；Infris AI负责推理优化，提前预测需要哪些专家模块并做预取；江波龙则优化存储环节，让专家模块从UFS闪存加载到内存的速度更快。

高通自己管芯片平台和软件栈，优化路由和缓存预测。这一套打下来，图的就是减少等待时间，让MoE模型在端侧跑得顺。这已经不是哪一家公司单打独斗，而是模型、推理、存储、芯片四个环节的系统性调优。

生态协作：从“搬模型”到“融体验”

从前芯片厂商和模型厂商合作，大致就是把模型量化一下，塞进芯片里跑通就完事。现在，这种合作深多了。

在这个新生态里，各家的角色分得很清楚：

• 模型厂商（如阶跃星辰）提供“大脑”，负责智能核心。
• 芯片公司这边，高通拿出的思路是当“底座”——靠NPU和软件栈，把模型压得更小、跑得更快、耗电更少。合作方式也变了味：不再是过去那种“模型+芯片”的简单拼装，而是走向“模型for芯片”或“芯片for模型”的深度定制。手机、PC、汽车这些终端厂商手里攥着“入口”，它们有操作系统、有用户数据，任务就是把芯片能力和模型智能捏成用户能感知到的功能。
• 剩下的“长尾问题”落在开发者肩上。底层能力再强，也得落成一个个具体的App功能，才铺得开成千上万种使用场景。

进博会上的Demo就是个缩影。它说明的是一件事：终端侧AI的较量，已经不看谁的模型参数更大，而是看谁能把模型、推理、存储和硬件更好地揉在一起。

往后，这类能力会从手机蔓延到汽车、PC，甚至眼镜上。等设备真能本地完成意图理解和任务执行，对着屏幕点来点去或许就没必要了——直接告诉设备“我要做什么”，剩下的它自己办。这一天，比想象中来得要快。