清华滴滴联合提出JANUS框架:大模型微调不再遗忘旧知识
NeurIPS 2026 | 大模型抗遗忘新范式:「先微调,后矫正」实现无遗忘等价条件,算法,实验,大模型,模型权重

罗马神话里掌管时间的神
Janus长着两张脸,一张看过去,一张看未来。可放到大模型身上,学完新技能,旧知识常常就丢了。
这种毛病叫「灾难性遗忘」(Catastrophic Forgetting),是大模型微调绕不开的经典难题。过去很长一段时间,研究者习惯在训练过程中给模型加约束,想让它一边学新东西,一边别把从前学的忘掉。
清华大学和滴滴自动驾驶的一项联合研究换了个打法:与其在训练时小心提防遗忘,不如先让模型把微调做完,再回头对参数做针对性修正。他们拿出的JANUS框架不动原有微调流程,只对已经微调好的模型做后处理,受损的历史知识能找回一部分,新任务的能力也尽量留住。
在LLaMA-2-7B的数学和代码任务实验里,JANUS把历史知识保持指标从67.55%和79.71%分别拉到106.16%和109.83%,新任务能力指标只掉了约1个百分点。
这项工作已被NeurIPS 2026接收,论文与代码均已公开。

- 论文标题:Past, Future, All at Once: Mitigating Stability-Plasticity Dilemma via Post-hoc JANUS Rectification
- 论文链接:https://arxiv.org/abs/2609.19985
- 代码链接:https://github.com/zhengzl18/JANUS
01 大模型为什么总是「学了新的,忘了旧的」?对模型来说,学会新任务和守住旧知识,常常是两个打架的目标。前者要的是可塑性(Plasticity),后者要的是稳定性(Stability)。
麻烦在于这两头互相牵扯。模型得不断调参数,才能适配新的任务和数据;可参数一动,预训练阶段攒下的知识表示又可能被搅乱。
已有的抗遗忘微调方法里,有一种走「子空间正交」的路子,限制参数更新别往可能干扰旧知识的方向走。JANUS团队发现,这类限制或许比真正防住遗忘所需的条件更严。突破口就在这里。
02 解锁模型潜能:从「充分条件」到「充要条件」JANUS先做的一件事,是把抗遗忘要满足的数学条件重新捋了一遍。
子空间正交约束的意思是,参数更新量ΔW和历史知识M各自张成的子空间要相互正交,即:ΔW · M = 0
干扰确实能减少,但大量方向也跟着被「上锁」。历史样本一多,模型能用来学新任务的空间就缩得很快。
说白了,这个条件是充分的,但不必要。
JANUS的想法是:网络里的参数本就是一个整体,彼此协作,可以一起把抗遗忘的担子分掉。于是方法从「每一行参数各自实现抗遗忘」变成「所有参数共同协作实现抗遗忘」,写成式子就是:Tr(ΔW · M) = 0
这个改动看起来不大,背后却藏着一次视角转换。
ΔW · M = 0 盯的是 ΔW 的行空间和 M 的列空间,要求这两个维度相对更低的子空间彼此正交;换成 Tr(ΔW · M) = 0,则是把两者当成高维参数空间里的两个向量,约束向量之间正交。
这个条件既是充分的,也是必要的。
这样一来,模型一边保住旧知识,一边腾出更多参数更新空间去学新任务。

子空间正交与参数空间正交的对比
沿着这个思路,团队做出了 JANUS(JAcobianNUllSpace Projection)算法:用雅可比零空间投影,把微调后的参数更新量掰到对旧任务损失一阶不变的方向上。
整个流程不用嵌进原来的训练管线。
模型可以先用全参数微调、LoRA 等办法学新任务,学完之后再由 JANUS 矫正已经完成的参数更新。
这也是它和现有训练时抗遗忘方法的分界:JANUS 要等模型学会新任务以后,再回头修补微调给旧知识留下的损伤。
03 矫正一次不够:让模型沿着「安全路径」一步步修复记忆
但训练后的参数矫正,并不是做一次投影就完事。
旧任务梯度指出的无遗忘更新方向只在一小片区域内成立。参数变化幅度一大,最初算出来的方向就可能不准了。
若一次性做跨度很大的投影,最终参数照样可能跑出历史损失保持不变的那片区域。
针对这一点,团队又提出了「多步自适应矫正」机制。
它的思路是:全部修正不一次做完,而是拆成小步、反复修正。
每走完一步,JANUS 都会重新计算当前位置的雅可比矩阵,给出下一步的无遗忘更新方向。
算法同时引入 JANUS shift 指标,比较不同位置上雅可比矩阵行空间的变化,据此自适应地挑选步长。
可以把它想成沿着历史任务损失的等高线往前走:每次迈一小步,重新确认等高线的走向,再接着迈下一步。
研究还用上了 Ghost 操作、SVD 压缩等手段,压低大模型参数矫正的时间和空间开销。
以 7B 参数的模型为例,1 张 A100 显卡、30 分钟,修正就能完成。

多步自适应矫正:在局部可信范围内小步推进
04 旧知识恢复到预训练水平以上,新能力只损失约 1 个百分点
灾难性遗忘到底能被 JANUS 缓解到什么程度?
团队在 LLaMA-2-7B 和 LLaMA-3-8B 上做了系统评测,下游任务覆盖数学、代码、指令遵循三类。
参与对比的既有方案分两类。一类是普通微调,涵盖全参数微调、LoRA、PiSSA;另一类是抗遗忘微调,包括CorDA、MiLoRA和LoRA-Null。JANUS用在PiSSA上完成训练,这一组合在论文中记作JANUS-P。
衡量稳定性与可塑性的综合指标共三个:AP₁对应历史知识的保持程度,也就是稳定性;AP₂对应新任务上的能力,即可塑性;AP则是两者的算术平均。
在LLaMA-2-7B上,JANUS-P的表现格外抢眼,相关实验结果见下图。

数学任务里,稳定性指标AP₁由67.55%升到106.16%,可塑性指标AP₂只掉了1.02个百分点。代码任务同样如此,AP₁从79.71%被推到109.83%,AP₂的跌幅仅有0.75个百分点。
指令遵循任务上,JANUS-P把稳定性拉到接近预训练模型的水平,综合指标也更高。跟其他抗遗忘微调方法比,它基本都拿到了稳定性与可塑性的同步提升。

稳定性与可塑性的对比结果见下图。
后续实验还表明,这种恢复效果能跨基础模型、跨下游任务、跨原始微调方法反复出现。换句话说,JANUS并未绑死在某一套训练方案上。
05 结语:从「训练时限制」转向「训练后修复」,大模型持续学习有了新思路
要说JANUS最值得关注之处,具体的性能提升或许还在其次,更关键的是它把抗遗忘这件事的处理方式换了个方向。
以往不少方法的思路是:模型学新任务时,靠限制参数更新来护住旧知识。
而JANUS把这道约束挪到了训练结束之后。
这样一来,抗遗忘机制就不必再跟某个微调算法捆在一起,它有可能变成一道相对独立的模型后处理工序。
对那些要频繁适配不同任务、能力还得持续更新的大模型来说,这条路径具备实际落地的潜力。它展示的新可能是:学新知识与留旧知识之间的冲突,未必只能靠训练时加更严的限制来化解;让模型先学会、再修正,有时反而是更灵活的一条路。
作者团队简介
论文第一作者是郑志龙,清华大学智能驾驶课题组(iDLab)博士生,导师为清华大学车辆学院、人工智能学院李升波教授。这项工作由清华大学与滴滴自动驾驶深穹远航实验室(DiDi Voyager Labs)合作完成。