华为昇腾0 Day适配Kimi K3.1 Pro推理，2.8万亿参数MoE模型落地
月之暗面发布 K3.1 系列首个模型 K3.1 Pro，采用混合线性注意力与稀疏注意力架构，具备百万 token 上下文和视觉理解能力。昇腾基于 vLLM Ascend、SGLang 完成 0 Day 推理适配，覆盖 Atlas 800 A3、900 A3 SuperPod、950 超节点，支持长上下文推理与多步骤智能
华为计算公众号披露，2026年11月4日，月之暗面把Kimi K3.1 Pro的完整模型权重正式放了出来。同一天，昇腾借vLLM Ascend和SGLang完成了0 Day推理适配，Atlas 800 A3、Atlas 900 A3 SuperPod超节点以及昇腾950超节点系列产品都能部署Kimi K3.1 Pro做推理。
针对这个模型新加的稀疏注意力、百万级上下文以及推理服务方面的需求，昇腾在算子和框架上做了协同优化，用户和开发者可以在模型发布首日就上手部署、做应用验证。
Kimi K3.1 Pro是K3.1系列打头的一个模型，参数规模2.8万亿，原生支持视觉理解，上下文窗口达到百万token。它在K3的基础上把后训练规模继续做大，代码开发、3D创作、金融研究、事实准确性、长程智能体任务这些方面的能力都有提升。
有了百万级上下文，模型能把长篇文档、代码以及多轮交互里的任务信息放在一起用，再配合视觉理解和工具调用去完成多步骤任务，软件研发、企业知识处理这类复杂场景都能撑起来。
计算架构方面，K3.1 Pro走的是混合线性注意力路线，把KDA线性注意力层和DSA稀疏注意力层结合到一起。要把这套架构的计算优势发挥出来，算子执行、缓存管理、跨卡通信都得一起优化。
昇腾推理团队此前适配过Kimi K3，这次借着那批经验提前做模型分析，模型接入、算子开发、服务验证几项工作并行推进。在已有KDA与MoE支持的基础上，团队把K3.1 Pro新增的稀疏注意力路径和多模态推理适配补齐，推理框架原有的服务能力也一并支持。
这轮适配主要抓核心算子优化和推理特性支持，涉及历史信息筛选、稀疏注意力计算、预处理与残差计算，再加上分布式缓存和框架能力的叠加，长上下文推理和服务部署都能跑起来。
参考
