面壁智能MiniCPM-V 4.7：350亿参数手机跑，两年内望见GPT-6级

面壁智能联席首席科学家姚远在与手机、汽车等终端厂商打交道时注意到，部分厂商已把未来要落地的AI功能划成L1、L2、L3等不同等级。这些厂商对产品有比较完整的构想，他们真正关心的是：端侧模型何时能达到对应等级的能力要求。

姚远说，最近厂商和面壁智能聊得最多的就是几个问题——“能不能更快？能不能是更大的模型？功耗能不能更小一点？”

模型能力每上一个台阶，一些原先难以实现的功能就可能进入开发阶段。

11月5日，面壁智能公布了MiniCPM-V 4.7的最新进展。这是一个总参数350亿的多模态大模型，在手机上以约3GB运行内存即可完成推理；在iPhone 18 Pro Max上，模型以约3GB运行内存跑出20.51 token/s的解码速度。团队进一步优化后，又把这一数字提到30 token/s以上。

35B MoE模型能在手机上跑起来，也让面壁智能对端侧智能的推进速度更加乐观。姚远判断，照眼下的技术演进节奏，两年之内，GPT-6级别的模型能力有希望在手机上实现。

手机厂商究竟需要什么样的端侧AI？

云端大模型的推理成本一直在降，可终端厂商仍有一些明确的本地计算需求。

姚远拿汽车行业举例：车开进隧道，网络可能断掉，部分智能功能却不能跟着失灵；车内摄像头牵涉的隐私同样敏感，有的用户知道摄像头数据要传上云端，干脆拿衣服把它盖住。

手机里的个人信息更集中，通话录音、照片、日程安排以及各类私人文件，都可能成为AI助手理解用户的上下文。面壁智能团队和手机厂商沟通时发现，通话语音转录是部分厂商最基础的需求之一；涉及家人对话、商业机密的信息，放在本地处理有明确的价值。

姚远认为，端侧模型能力提升后，可以一步步接下更多高频、实时、隐私敏感的任务；碰上特别复杂的逻辑问题，设备照样能调用云端模型。未来端云如何分工，很大程度上要看终端模型能处理多复杂的任务。

在面壁智能给出的演示中，一台处于飞行模式的iPhone可以读家庭用电数据表，推算出各类电器的月度耗电量，随后结合账单和设定条件对各套省电方案做对比。碰到估算值与真实账单对不上的情况，模型会说明凭现有信息无法判断差额从何而来。

对汽车座舱，面壁智能的设想更进一步：车辆要处理舱内外的音视频和传感器信号，还可能同时面对几名乘客——模型得判断谁在和谁说话、什么时候有人在向它提要求，以及怎样根据乘客习惯调整车内设置。

端侧智能的多次降临。横轴是时间，纵轴是参数量。颜色代表模型表现，红色表示性能较强，蓝色表示较弱

这些功能对模型的要求，远高于一次简单问答，也解释了终端厂商为何如此在意端侧智能的能力上限。

不过，模型即使已经能完成某项任务，真正装进手机后，仍要面对运行效率和功耗的限制。

面壁智能多模态大模型实验室算法研究员蔡天驰介绍，目前相关版本运行时的功耗大致相当于一款大型手机游戏。对需要长期在线的个人智能体来说，这样的功耗显然还有优化空间。团队希望通过算子优化和软硬协同，在现有这一代芯片上把功耗降到接近长时间听歌的水平。若能实现，模型就有机会在手机上持续运行，更频繁地处理用户的日常信息。

眼下，面壁智能已有模型进入头部手机厂商的量产设备，最新的MiniCPM-V 4.7也在与多家厂商接触并接受测试。

大模型越做越大

端侧竞争也在变化

面壁智能此次展示的35B模型，也反映出端侧模型研发思路的一处变化。

外界常把端侧模型和小参数画等号，姚远却不这么看：模型效率提高后，同样的手机硬件能承载更强的智能；同时芯片性能也在增长，模型规模自然有机会继续扩大。

MiniCPM-V 4.7的35B-A3B版本就是按这个思路做的。模型专家权重共32.2B，包含10240个专家，占全部参数的93.6%，而每个token只需用到其中320个（3.1%）。大量暂时用不上的专家权重存放在手机闪存里，计算时再按需加载，内存占用因此压到原来的1/15。

随之而来的是读取速度问题。手机闪存容量充足，带宽却远低于运行内存，频繁加载参数会拖慢模型生成内容的速度。按此前的按需读取方案，模型每秒只能生成约2至3个token。

面壁智能研发的前瞻专家调度技术（LES）让系统能提前预测下一层可能调用的专家，在当前计算还没结束时就开始加载所需权重。配合存储布局、分层量化和解码方式的优化，模型在iPhone 18 Pro Max上的速度由3.38 token/s提升至20.51 token/s。团队近期展示的LES 2.0版本已经超过30 token/s，内存占用仍约为3GB。

MiniCPM-V 4.7 35B-A3B在端侧的出词速度，正以“天”为单位往前推。

蔡天驰说，8 token/s 这条线是面壁智能 2024 年就定下的判断：输出达到 8 token/s，人不觉得卡；低于 8 token/s，会有点卡。到 15 token/s，输出就算流畅。“所以我们把15 token/s定义为对话任务足够流畅的标准，速度再往上，体验当然会很好，但会出现一个问题：用户可能来不及阅读。”

同台亮相的模型因此分了两种尺寸——MiniCPM-V 4.7 有 35B-A3B 和 1B 两个版本。35B-A3B 冲的是端侧模型的能力上限，1B 则瞄准更多价位段的设备；实测中，MiniCPM-V 4.6 的 1B 版本已经能在部分千元级、甚至更便宜的手机上跑得顺畅。

视觉这块的效率同样关键。姚远没有回避现场样机的短板：处理部分图像时仍要等上大约两秒，遇到需要识别大量文字的高清图，视觉编码本身就很吃算力。LLaVA-UHD v4 的做法是把压缩环节挪进视觉编码器内部，视觉编码计算量少了 55.8%，相应评测的表现则持平或更好。

姚远说，行业看模型常常只盯着最终效果，很少算为这个效果花了多少计算成本。端侧硬件资源就那么多，效率差一点，落到用户身上就是多等一会儿。

端侧AI的玩家越来越多，模型公司靠什么立足，成了面壁智能绕不开的题。

姚远给出的答案是三块积累——模型、硬件适配、推理基础设施，外加开源生态。各家手机厂商的芯片、系统、设备都不一样，单靠一家公司把平台适配全做完并不现实。面壁智能想借开源社区和合作伙伴，把模型铺到更多硬件上。公司披露的数字是：截至2026年11月，相关开源项目在GitHub上星标数超过17万，模型累计下载超过7000万次。

开源还带来了生意。姚远透露，已有客户在用完开源模型后主动找上门谈商业合作；开发者那边，也有人拿面壁智能的模型去做智能眼镜、应用软件之类的产品。对一家以模型研发为主业的公司而言，开源既让更多开发者去试应用，也开了一扇接触潜在客户的门。

手机也好，汽车、机器人也好，姚远认为模型的通用能力还远没到顶。他提到，团队此前也低估了端侧模型的进化速度：早先Agent能力强的模型，参数规模往往很大；如今几十亿参数的模型，已经能初步把Agent任务做下来。

这让面壁智能对端侧智能的前景更乐观。姚远用“撞线”来打比方，说的是技术能力和用户需求一点点靠近的过程。一旦模型能满足某类任务，原本非云端不可的计算，就有机会挪到本地。

每日经济新闻