清华滴滴联合提出JANUS框架:大模型微调不再遗忘旧知识

资讯 网易科技 作者:网易 全文 3127 字 · 约 8 分钟读完 配图 7 张 分类大模型

NeurIPS 2026 | 大模型抗遗忘新范式:「先微调,后矫正」实现无遗忘等价条件,算法,实验,大模型,模型权重

所属频道 模型发布

清华滴滴联合提出JANUS框架:大模型微调不再遗忘旧知识(配图 1)

罗马神话里掌管时间的神Janus长着两张脸,一张看过去,一张看未来。可放到大模型身上,学完新技能,旧知识常常就丢了。

这种毛病叫「灾难性遗忘」(Catastrophic Forgetting),是大模型微调绕不开的经典难题。过去很长一段时间,研究者习惯在训练过程中给模型加约束,想让它一边学新东西,一边别把从前学的忘掉。

清华大学和滴滴自动驾驶的一项联合研究换了个打法:与其在训练时小心提防遗忘,不如先让模型把微调做完,再回头对参数做针对性修正。他们拿出的JANUS框架不动原有微调流程,只对已经微调好的模型做后处理,受损的历史知识能找回一部分,新任务的能力也尽量留住。

在LLaMA-2-7B的数学和代码任务实验里,JANUS把历史知识保持指标从67.55%和79.71%分别拉到106.16%和109.83%,新任务能力指标只掉了约1个百分点。

这项工作已被NeurIPS 2026接收,论文与代码均已公开。

清华滴滴联合提出JANUS框架:大模型微调不再遗忘旧知识(配图 2)

  • 论文标题:Past, Future, All at Once: Mitigating Stability-Plasticity Dilemma via Post-hoc JANUS Rectification
  • 论文链接:https://arxiv.org/abs/2609.19985
  • 代码链接:https://github.com/zhengzl18/JANUS

01 大模型为什么总是「学了新的,忘了旧的」?对模型来说,学会新任务和守住旧知识,常常是两个打架的目标。前者要的是可塑性(Plasticity),后者要的是稳定性(Stability)。

麻烦在于这两头互相牵扯。模型得不断调参数,才能适配新的任务和数据;可参数一动,预训练阶段攒下的知识表示又可能被搅乱。

已有的抗遗忘微调方法里,有一种走「子空间正交」的路子,限制参数更新别往可能干扰旧知识的方向走。JANUS团队发现,这类限制或许比真正防住遗忘所需的条件更严。突破口就在这里。

02 解锁模型潜能:从「充分条件」到「充要条件」JANUS先做的一件事,是把抗遗忘要满足的数学条件重新捋了一遍。

子空间正交约束的意思是,参数更新量ΔW和历史知识M各自张成的子空间要相互正交,即:ΔW · M = 0

干扰确实能减少,但大量方向也跟着被「上锁」。历史样本一多,模型能用来学新任务的空间就缩得很快。

说白了,这个条件是充分的,但不必要。

JANUS的想法是:网络里的参数本就是一个整体,彼此协作,可以一起把抗遗忘的担子分掉。于是方法从「每一行参数各自实现抗遗忘」变成「所有参数共同协作实现抗遗忘」,写成式子就是:Tr(ΔW · M) = 0

这个改动看起来不大,背后却藏着一次视角转换。

ΔW · M = 0 盯的是 ΔW 的行空间和 M 的列空间,要求这两个维度相对更低的子空间彼此正交;换成 Tr(ΔW · M) = 0,则是把两者当成高维参数空间里的两个向量,约束向量之间正交。

这个条件既是充分的,也是必要的。

这样一来,模型一边保住旧知识,一边腾出更多参数更新空间去学新任务。

清华滴滴联合提出JANUS框架:大模型微调不再遗忘旧知识(配图 3)

子空间正交与参数空间正交的对比

沿着这个思路,团队做出了 JANUS(JAcobianNUllSpace Projection)算法:用雅可比零空间投影,把微调后的参数更新量掰到对旧任务损失一阶不变的方向上。

整个流程不用嵌进原来的训练管线。

模型可以先用全参数微调、LoRA 等办法学新任务,学完之后再由 JANUS 矫正已经完成的参数更新。

这也是它和现有训练时抗遗忘方法的分界:JANUS 要等模型学会新任务以后,再回头修补微调给旧知识留下的损伤。

03 矫正一次不够:让模型沿着「安全路径」一步步修复记忆

但训练后的参数矫正,并不是做一次投影就完事。

旧任务梯度指出的无遗忘更新方向只在一小片区域内成立。参数变化幅度一大,最初算出来的方向就可能不准了。

若一次性做跨度很大的投影,最终参数照样可能跑出历史损失保持不变的那片区域。

针对这一点,团队又提出了「多步自适应矫正」机制。

它的思路是:全部修正不一次做完,而是拆成小步、反复修正。

每走完一步,JANUS 都会重新计算当前位置的雅可比矩阵,给出下一步的无遗忘更新方向。

算法同时引入 JANUS shift 指标,比较不同位置上雅可比矩阵行空间的变化,据此自适应地挑选步长。

可以把它想成沿着历史任务损失的等高线往前走:每次迈一小步,重新确认等高线的走向,再接着迈下一步。

研究还用上了 Ghost 操作、SVD 压缩等手段,压低大模型参数矫正的时间和空间开销。

以 7B 参数的模型为例,1 张 A100 显卡、30 分钟,修正就能完成。

清华滴滴联合提出JANUS框架:大模型微调不再遗忘旧知识(配图 4)

多步自适应矫正:在局部可信范围内小步推进

04 旧知识恢复到预训练水平以上,新能力只损失约 1 个百分点

灾难性遗忘到底能被 JANUS 缓解到什么程度?

团队在 LLaMA-2-7B 和 LLaMA-3-8B 上做了系统评测,下游任务覆盖数学、代码、指令遵循三类。

参与对比的既有方案分两类。一类是普通微调,涵盖全参数微调、LoRA、PiSSA;另一类是抗遗忘微调,包括CorDA、MiLoRA和LoRA-Null。JANUS用在PiSSA上完成训练,这一组合在论文中记作JANUS-P。

衡量稳定性与可塑性的综合指标共三个:AP₁对应历史知识的保持程度,也就是稳定性;AP₂对应新任务上的能力,即可塑性;AP则是两者的算术平均。

在LLaMA-2-7B上,JANUS-P的表现格外抢眼,相关实验结果见下图。

清华滴滴联合提出JANUS框架:大模型微调不再遗忘旧知识(配图 5)

数学任务里,稳定性指标AP₁由67.55%升到106.16%,可塑性指标AP₂只掉了1.02个百分点。代码任务同样如此,AP₁从79.71%被推到109.83%,AP₂的跌幅仅有0.75个百分点。

指令遵循任务上,JANUS-P把稳定性拉到接近预训练模型的水平,综合指标也更高。跟其他抗遗忘微调方法比,它基本都拿到了稳定性与可塑性的同步提升。

清华滴滴联合提出JANUS框架:大模型微调不再遗忘旧知识(配图 6)

稳定性与可塑性的对比结果见下图。

后续实验还表明,这种恢复效果能跨基础模型、跨下游任务、跨原始微调方法反复出现。换句话说,JANUS并未绑死在某一套训练方案上。

05 结语:从「训练时限制」转向「训练后修复」,大模型持续学习有了新思路

要说JANUS最值得关注之处,具体的性能提升或许还在其次,更关键的是它把抗遗忘这件事的处理方式换了个方向。

以往不少方法的思路是:模型学新任务时,靠限制参数更新来护住旧知识。

而JANUS把这道约束挪到了训练结束之后。

这样一来,抗遗忘机制就不必再跟某个微调算法捆在一起,它有可能变成一道相对独立的模型后处理工序。

对那些要频繁适配不同任务、能力还得持续更新的大模型来说,这条路径具备实际落地的潜力。它展示的新可能是:学新知识与留旧知识之间的冲突,未必只能靠训练时加更严的限制来化解;让模型先学会、再修正,有时反而是更灵活的一条路。

作者团队简介

论文第一作者是郑志龙,清华大学智能驾驶课题组(iDLab)博士生,导师为清华大学车辆学院、人工智能学院李升波教授。这项工作由清华大学与滴滴自动驾驶深穹远航实验室(DiDi Voyager Labs)合作完成。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Janus框架:清华与滴滴提出大模型抗遗忘新范式,先微调后矫正

    罗马神话中的时间之神 Janus,有两张面孔,能够同时望见过去和未来。可大模型学会了新技能,却往往忘了旧知识。这种现象被称为「灾难性遗忘」(Catastrophic Forgetting),是大模型微调面临的经典难题。长期以来,研究者一直试图在训练过程中为模型设置约束,让它学习新知识的同时,尽量不忘记过去。但现在,一项

    来源 腾讯网
  2. 没收过钱的DeepSeek,限个流就成罪人了?

    要说哪家大模型公司在科技圈和开发者中口碑最好,DeepSeek 认第二,估计没几家敢认第一。 哥们平时也不买量投流,纯靠模型攒口碑。 但我真没想到,就这么一家浓眉大眼的公司,最近....

    来源 腾讯网
  3. 试题经过大模型测试?国家中医药管理局认证中心:未与任何大模型企业合作,亦未开展测评

    IT之家 11 月 22 日消息,11 月 21 日晚,国家中医药管理局中医师资格认证中心通过官方公众号发布声明称,该中心从未公开历年真题,未与任何大模型企业合作,亦未开展测评。 声明称,中心从未以任何形式向社会公开、发布或出售中医类别医师资格考试历年试题(含真题、原题)、参考答案及相关考试资料,亦未授权任何单位或个人

    来源 AI 行业观察
  4. 华中科技大学联手阿里巴巴建AI安全研究中心,首批9个课题启动

    IT之家 11 月 21 日消息,华中科技大学与阿里巴巴集团于 11 月 18 日签署合作协议,聚焦 AI 安全共建“智能攻防与前沿安全联合研究中心”,首批启动 9 个课题。 IT之家获悉,联合研究中心首批启动的 9 个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向,以下为

    来源 AI 行业观察
  5. 200万个追踪标记潜入AI供应链,数据托管私密性被证伪

    一项巧妙的隐私实验揭开了AI供应链的隐秘角落。研究人员将约200万个带有唯一标记的“金丝雀”秘密植入提示词与数据流中,结果这些本应保持私密的追踪信息出现在大模型生态的多个环节。实验证明,用户数据在AI供应链中并不会真正保持私密,泄露的范围与深度远超想象。

    来源 AI 科技快讯
  6. 开发者把语言模型装进软盘,486 老电脑也能跑 AI 了

    IT之家 11 月 22 日消息,开发者 WollyMonjac 完成了一项颇具复古科技色彩的项目:将一个语言模型塞进软盘,让运行 DOS 系统的 486DX 和 Pentium 老电脑也能使用 AI。不过需要说明的是,WollyMonjac 开发的 Tiny 2.1 并不是大型语言模型(LLM)。尽管它采用了与大型模

    来源 腾讯网
  7. 西北工大ROSE框架:多模态大模型连续知识更新如何不再乱套?

    多模态大模型在持续更新事实知识时,常面临“灾难性遗忘”和“局部性退化”两大痛点。西北工业大学团队提出的ROSE框架,通过风险感知的正交编辑机制和多粒度知识整合策略,在LLaVA-7B模型上实现了1000次连续编辑后仍保持95%以上的可靠性,且几乎不干扰无关知识。该成果已入选NeurIPS 2026 Spotlight。

    来源 AI 应用前沿
  8. 国产大模型接连限额:算力都去哪了?

    ► 文 观察者网心智观察所 2026年11月16日,不少用户在打开DeepSeek客户端或网页版时,意外收到了一条弹窗提示。系统告知用户,受算力约束,平台不再支持存续超过7天且无活跃交互的长对话,单次输入文字上限被缩短到约4万字,连续使用不到2小时的免费用户甚至会直接触发每日使用额度上限。无独有偶,就在20天前的10月

    来源 腾讯网
  9. 200万金丝雀潜入AI供应链:数据托管不等于隐私安全

    一项巧妙的隐私实验揭开了AI供应链的隐秘角落。研究人员将约200万个带有唯一标记的“金丝雀”秘密植入提示词与数据流中,结果这些本应保持私密的追踪信息出现在大模型生态的多个环节。实验证明,用户数据在AI供应链中并不会真正保持私密,泄露的范围与深度远超想象。

    来源 AI 行业观察
  10. 大模型首Token激活为何巨大?清华北大团队找到梯度调节解释

    大语言模型中,序列开头的Token常出现注意力汇聚和数值巨大的异常激活。清华与北大团队通过反向传播分析发现,这种“巨大激活”并非冗余,而是通过RMSNorm层衰减局部集中梯度的自适应机制。研究提出V-scale验证了这一假设,为理解Transformer训练动力学提供了新视角。

    来源 AI 应用前沿
  11. Anthropic登陆纳斯达克:25位华人员工分享IPO造富盛宴

    AI界的造富故事,正在从创始人为主的一端向内部员工扩散。Anthropic的上市,恰好将这种变化推到了聚光灯下。 11月19日,Claude大模型背后的Anthropic正式登陆纳斯达克。公司IPO发行价为每股83美元,公开发行规模高达813.4亿美元,加上260亿美元的同步私募配售,整体交易规模超过1073亿美元,公

    来源 AI 行业观察
向下滚动自动加载更多