灾难性遗忘（Catastrophic Forgetting）

灾难性遗忘（Catastrophic Forgetting）指神经网络学习新知识时，把之前学到的旧知识“冲掉”的现象。比如模型本来擅长通用问答，若只拿大量编程数据继续微调，它可能编程变强却在通用问答上明显变笨——这种“顾此失彼”就是灾难性遗忘，它是神经网络持续学习研究中的经典难题，也是微调与增量更新绕不开的风险。

为什么会出现

• 参数是共享的：更新权重让它适应新任务，必然同时改变旧任务依赖的“记忆”。
• 数据反复冲刷：新数据持续施加梯度，旧模式对应的权重被逐步覆盖。
• 分布差异越大越严重：新旧任务的数据分布相距越远，冲突越激烈。
• 缺少旧样本约束：训练目标只关心新任务的损失，没有机制提醒模型别忘旧知识。

典型表现

• 技能退化：微调后数学能力、通用知识或语言流畅度下降。
• 工具遗忘：智能体学会新工具后，忘了旧工具的参数与调用方式。
• 格式崩溃：输出结构变得不稳定，原本遵守的模板开始走样。
• 安全隐患：原本生效的安全拒答策略被新数据冲淡，出现越界回答。

主流缓解手段

• 数据混合：微调时混入一定比例的通用或旧任务数据，防止“偏科”。
• 低资源微调：用 LoRA 等参数高效微调技术，只更新少量参数，减少对旧知识的扰动。
• 经验重放：训练时反复回顾旧任务样本，用旧数据约束新更新。
• 知识蒸馏：用旧模型“教”新模型，把旧能力保留下来。
• 正则化与参数隔离：对重要参数加大更新惩罚，或为不同任务分配独立模块。

与持续学习的关系

灾难性遗忘本质上是稳定性与可塑性的矛盾：模型要学新东西就必须改变参数，而参数改动又可能破坏旧能力。理想方案是既能快速吸收新知识，又不丢失已有本领，但两者难以同时最大化。工程上的共识是接受一定权衡，通过数据配比、更新幅度控制与回归验证，把退化压到可接受范围内。

实践要点

• 建立回归测试集：把旧能力的关键用例固定下来，每次微调后统一跑一遍。
• 先小步试跑：用较小学习率与较少轮次观察退化速度，再决定是否加大训练强度。
• 混合比例要标定：通用数据占比过低防不住遗忘，过高则新任务学不进去。
• 保存基线版本：保留微调前权重，便于回滚与做对比评估。
• 区分遗忘与能力上限：先确认是旧知识丢失，还是任务本身超出模型能力范围。

常见误区

• “多训几轮只是更充分”：过度训练常见后果就是旧能力明显退化。
• “只更新少量参数就不会遗忘”：参数高效微调能缓解，但学习率过高或数据过窄时仍会退化。
• “遗忘只发生在小模型”：模型越大通常越稳，但并非免疫。
• “事后合并两个模型就行”：直接权重相加容易互相干扰，需要专门的合并策略与验证。