Day-0 支持:摩尔线程完成 3 万亿级参数 Kimi-K3.1 Pro 适配,支持文本与图片推理
IT之家 11 月 6 日消息,本月 4 日,月之暗面正式公布 Kimi K3.1 Pro 完整模型权重。在 Arena 运营的 Agent Arena 智能体排行榜中,Kimi K3.1 Pro(Max)位列开放权重模型第一、全部参评模型第 13 位,并在工作、编程与聊天三个类别中均居开放模型首位。 摩尔线程官方今日
11 月 4 日,月之暗面公布了 Kimi K3.1 Pro 的完整模型权重。Arena 运营的 Agent Arena 智能体榜单显示,Kimi K3.1 Pro(Max)在开放权重模型中排第一,在全部参评模型中列第 13 位;工作、编程与聊天三个类别里,它都是开放模型中的头名。

摩尔线程今日对外宣布,基于 AI 训推一体智算卡 MTT S5000 和 MUSA 软件栈,公司已完成 Kimi-K3.1 Pro 的 Day-0 适配,模型加载、服务启动以及文本、图片的基础推理链路均已跑通。

作为 K3.1 系列的首款模型,Kimi K3.1 Pro 也是目前能力最强的 3 万亿级参数模型,上下文支持 100 万。经过大规模后训练与强化学习,它在代码、3D 创作、金融研究、知识问答和长程 Agent 任务等方面都有提升。代码与 Agent 基准测试中,其水平已经达到或接近顶尖闭源模型:Terminal-Bench 4.0 得分 65.7%,Kimi Code Bench 3.0 Long-horizon 得分 61.2%,高于 K3 的 55.95%。
摩尔线程方面称,围绕 Kimi K3.1 Pro 的模型架构和计算特性,团队借助 MUSA 软件栈完成了关键推理路径的迁移与适配,模型可以在 MTT S5000 上稳定运行。快速迁移的底子在于 MUSA 在编程模型、运行时接口和 AI 框架层面的兼容能力。团队用 SGLang-MUSA 承接上游模型实现,再通过 MATE 算子库、Triton-MUSA、TileLang-MUSA 及 MTCC 编译器,把新架构的关键计算路径迁移接入,让社区模型代码变成 MTT S5000 上真正跑起来的推理服务。框架执行、算子编译、设备运行和多卡通信都在 MUSA 软件栈的覆盖范围内,适配因此能复用成熟接口,并针对新增计算路径做优化。
针对 Kimi-K3.1 Pro 的稀疏注意力 DSA,MUSA 软件栈完成了索引选择、KV 缓存布局以及 Prefill、Decode 计算路径的适配,接入 MATE 稀疏注意力算子,并与 KDA 状态管理、跨层残差及视觉 Attention 一起组成完整的执行链路。模型用的是 MXFP4 专家权重,团队执行专家计算时采用在线转换和跨层复用 FP8 工作区的办法,不必预先生成完整的离线 FP8 权重,超大模型的快速部署因此有了支撑。