LongCat-2.5开源：1.6万亿参数，MIT协议可商用

今天，LongCat-2.5 正式开源。协议选的是 MIT，商用推理部署、二次训练都能做，不需要再单独申请授权。

LongCat-2.5 是一枚面向长程智能体任务的原生多模态模型，总参数 1.6 万亿，每个 token 激活约 480 亿参数，上下文长度支持一百万。在复杂代码库开发、完整项目构建、Visual Coding 以及专业办公等场景里，它的端到端交付能力都比过去有明显进步。针对显存和带宽都吃紧的国产算力芯片，团队在模型架构、芯片适配、部署策略三块做了深度协同优化。

完整分数与评测条件，可参见文末技术博客链接。

LongCat-2.5 长程能力的提升不是靠某一处改动，而是整条训练链路一起扩展出来的。这些设计并没有重新定义模型能力，作用是让能力在长任务里稳稳发挥出来。

其一是训练数据更贴近真实长程任务。长程轨迹加得更多，真实 Agent 的失败轨迹也被转成可复现、可验证的训练任务。

其二是强化学习更贴合长任务的节奏。做法是 partial rollout 异步训练，没跑完的长任务先存下来接着跑；过采样率按通过率动态调整，全对、全错的样本组会被过滤掉；跨 checkpoint 的旧轨迹则做梯度校正，把陈旧偏差压下去。

其三是训练约束更有效地堵住“钻空子”。任务环境断网，git 历史与文件缓存一并清除，再用 LLM judge 监督轨迹；重复思考、重复工具调用、过度思考都会受到约束，让模型把精力放在完成任务上。

下面这些案例节选自开发者们的端到端测评示例，用来观察模型在真实使用流程中的表现。

搭建 skill 网站，来自开发者跟着阿亮学AI

小店互动经营网站，来自开发者赛博柳叶刀 | Aigc Lancet

多场景打斗游戏及后台开发，来自开发者AI异类弗兰克

Visual Coding 是 LongCat-2.5 的强项，创意设计、3D 等任务都能接。这些提升源自视觉表征层的改造：视觉信号被表示成多层级离散 token，和文本一样交给主干模型统一处理，而不是外挂一个视觉模块。具体说，模型对原生分辨率视觉特征做残差向量量化，一级一级补细节；视觉 token 可以离线预计算并缓存，在线计算量因此减少，分布式训练的负载也更均衡；视觉码本与主干联合训练，视觉和文本共享同一套主干参数，在同一语义空间里协同完成视觉理解与代码生成。

以下案例同样节选自开发者们的端到端测评示例，用于观察模型在真实使用流程中的表现。

汽车发布会演示网站，来自开发者塔斯海

水族馆交互演示网站，来自开发者cxuanAI

趣味互动演示网站，来自开发者跟着阿亮学AI

水墨风仙侠游戏界面开发，来自开发者AI异类弗兰克

专业办公场景要的不是单点问答，而是几件事同时做成：读多份材料，抓住关键信息，形成专业判断，再把判断变成规范、可用的交付物。LongCat-2.5 在这个场景的提升也沿着这条链路走：材料处理更稳，专业判断更接近分析人员，报告、演示文稿和办公工具能端到端交付，多轮任务执行更可靠。目标并非给每个场景单独建模，而是让主线模型具备端到端完成专业办公任务的能力。

支撑这些提升的，是一组彼此配合的技术设计。多专家在线教学负责把领域能力融进主线模型：学生先自主作答，专家再用全词表 KL 散度纠正其概率分布；教师回复按固定长度切分，以控制分布偏移；采样时 prefill 与 KV cache 共享；训练时用 Tree Attention，同组样本靠单次前传和反传处理完。大规模智能体强化学习提升长程执行与工具调用能力，跨任务、跨 Scaffold 的混合训练增强泛化；原生视觉理解支撑 PPT 与报告中的视觉内容生成，长上下文 rollout 优化则支撑长程强化学习高效运行。

以下案例都是 LongCat-2.5 端到端生成的真实演示。

电商经营分析工作网站，来自开发者路人甲TM

整合多渠道经营数据、厘清数据口径，算清真实利润，助力经营精准决策

模型能不能真正落地，推理效率是关键。LongCat-2.5 用的是 W4A4 高效推理方案，专家权重与激活同时量化到 4 bit，计算由原生 INT4 矩阵乘法单元执行。

精度上，团队以 FlatQuant 的可学习等价变换为基础优化 MoE 量化精度，已评测的下游任务表现与量化前相当。算子与数据路径上，专家共享输入变换，量化在 token 复制与分发之前完成，同一份 INT4 表示贯穿专家通信与计算；变换、尺度计算、量化与打包融合成专用算子，再结合权重布局与转置访问优化，减少数据搬运与转换开销。系统层面则针对 Prefill 偏重批量计算、Decode 偏重逐 token 推进与通信的特点，分别优化计算与通信的流水重叠，减少互相等待。W4A4 让 LongCat-2.5 在保住下游任务表现的同时压低推理成本，为 1.6 万亿级 MoE 模型的开源部署提供了可用的效率基础。

LongCat-2.5 的训练和监督微调都走长序列路线。落到国产算力上，单卡显存不到 80GB，这是长序列训练和微调绕不开的一道坎。

显存怎么省？做法是把压力切片，摊到超节点内的多张卡上；并行策略按拓扑来排，跨节点通信的开销因此降下来，通信和计算也尽量叠着跑。细看几项：FSDP 双重分片配合扁平化缓冲区，压的是常驻显存和峰值显存；混合词表并行再挤出一块显存空间；参数 AllGather、专家 token AllToAll 与 KV AllGather 尽量放在超节点内的高带宽互联域里完成；MoonEP 动态专家复制只在负载不均衡过了阈值才启动，免得多出来的通信开销吃掉收益；零拷贝通信、参数预取和 ScMoE 则负责让通信与计算重叠执行。

这套方案在工程上的分量，是在单卡显存不足 80 GB 的国产 AI 加速器上把长序列训练与微调跑通了；卡数往上扩时，通信开销和负载不均也各有机制兜着。长序列 SFT 任务中，该 FSDP 配置的单卡吞吐量比 DDP 基线高 86%。这说明长序列训练在国产算力上不光是可行，效率也拿得出手，社区要复现、要做二次开发，有了一条能照着走的基础设施路径。

LongCat-2.5 采用 MIT 协议开源，商用推理部署和二次训练都不需要额外授权。选这个协议，是想让模型能被自由使用、修改和再分发，社区接着往下做也方便。

国产算力是我们长期投入的方向，也是创新一直在发生的地方。显存和带宽的边界摆在那里，能动的只有架构、算子与并行策略，改在细处，进展落在实处。单卡显存不足 80GB 还要装下万亿参数 MoE，架构、量化、并行、通信之间就得反复权衡。这些权衡是跟产业伙伴一起做的，也让我们对这条路径看得更具体。

生态成熟，很少靠某一个点的突破。它要真实负载一遍遍去验，要芯片、框架和应用在同一处磨合，也要有人肯把最难的任务先压上去。模型和工程经验我们会继续开放，跟同行一起把这条路走宽。

模型开源：https://huggingface.co/meituan-longcat/LongCat-2.5

技术博客：https://longcat.ai/blog/longcat-2.5/

API平台：https://longcat.chat/platform/product