EPI：动态参数隔离框架解决大模型微调中的灾难性遗忘

本文提出Evolving Parameter Isolation（EPI）框架，通过动态更新参数隔离掩码，解决监督微调中的任务干扰和灾难性遗忘问题。该框架基于参数重要性随训练过程时序漂移的核心发现，突破静态参数隔离方法的局限，实现知识保持与新知识学习的平衡。

大型语言模型的监督微调（SFT）是使模型适应特定任务的关键步骤，但存在两大严峻挑战：1. 任务干扰：不同任务之间的参数更新相互冲突；2. 灾难性遗忘：学习新任务时遗忘旧任务的知识。

近期研究通过隔离任务关键参数缓解问题，基本思路是识别特定任务的重要参数并冻结以保护已有知识。但这些方法存在假设缺陷：认为参数重要性一旦确定就保持不变，即用静态方案解决动态问题。

实证研究发现参数重要性存在时序漂移：某些参数在训练初期对任务A重要但后期变次要，另一些参数后期对任务B至关重要；固定不变的隔离掩码无法适应这种动态变化，挑战静态方法的基本假设。

EPI框架通过以下核心机制实现动态调整：1. 在线重要性估计：持续监控各参数对当前任务的梯度信号；2. 周期性掩码更新：定期更新隔离掩码而非一成不变；3. 动态保护策略：保护新涌现的任务关键参数，释放已过时的参数以恢复可塑性。相比静态方法，EPI能适应训练动态、提升可塑性、减少干扰。

在多样化多任务基准实验中，EPI一致性地减少了任务干扰和灾难性遗忘，表现优于静态隔离和标准微调，整体泛化能力得到提升。

研究强调隔离机制与学习动态同步的必要性：模型学习是动态过程，固定策略难以适应；参数重要性是训练依赖的，需持续评估；动态隔离策略能更好平衡知识保持和新知识学习。

EPI揭示参数重要性不是静态属性，而是随训练演化的动态特征，这一发现可能影响其他模型适应技术的发展。未来研究方向包括：探索更高效的在线重要性估计方法、研究不同架构和任务类型下的参数重要性演化模式、将动态隔离思想扩展到其他模型适应场景。