MiniCPM-V 4.7端侧首发:3GB内存13+token/s解码
据官方介绍,这款模型基于最新 LES(前瞻专家调度)推理加速技术,其中 35B-A3B 版本是首个支持端侧无损流畅运行的开源 MoE 模型,在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+ token/s 的解码速度。
面壁智能在 10 月 13 日推出新一代端侧多模态大模型 MiniCPM-V 4.7,共 35B-A3B 和 1B 两种规格。35B-A3B 是 MiniCPM-V 系列中首个 MoE 模型,官方称其基于最新 LES(前瞻专家调度)推理加速技术。
面壁智能表示,35B-A3B 是首个能在端侧无损流畅运行的开源 MoE 模型。在 iPhone 17 Pro Max 上,它只用 3GB 内存就跑到 13+ token/s 的解码速度。
MiniCPM-V 4.7 的适配范围包括 iOS、安卓和鸿蒙,芯片平台则覆盖 Intel、AMD、Arm、瑞芯微、后摩等。面壁智能同步开源了 Self-Replay Fine-Tuning (SRFT) 微调方案,按官方说法,这能帮开发者以较低成本扩展模型能力、减少遗忘,便于二次开发。
跑分方面,35B-A3B 版本在 Instruct 模式下推理时间更短,综合得分高于 Qwen3.6 35B-A3B;1B 版本较 MiniCPM-V 4.6 继续提升基础能力,综合得分和推理效率均明显领先 Qwen3.5 0.8B。
