快慢双速学习框架FST：让大语言模型实现持续自适应进化

加州大学伯克利分校等机构提出Fast-Slow Training (FST)框架，将模型参数视为"慢权重"（保持通用推理能力）、优化上下文视为"快权重"（吸收任务特定信息），在保留通用能力的同时实现任务特化。实验显示样本效率提升3倍、KL散度降低70%，持续学习表现显著优于传统RL，有效缓解灾难性遗忘与可塑性丧失问题。

传统LLM训练依赖参数更新（如RL），易导致灾难性遗忘和可塑性丧失；上下文学习虽成本低、适应快，但性能上限不足。核心问题：学习是否必须局限于"上下文内"或"权重内"的二元选择？

慢权重

对应模型实际参数，保持接近预训练状态以保留通用能力，避免过度漂移。

快权重

通过优化上下文实现的虚拟权重，从文本反馈学习任务信息，无需修改模型参数。

协同机制

快权重快速适应任务，慢权重维持通用能力，分工兼顾效率与泛化。

• 样本效率比传统RL提升3倍，相同数据下更快达目标性能；
• KL散度降低70%，模型更接近原始分布，保留通用知识；
• 显著缓解灾难性遗忘，学习新任务时对旧知识干扰小；
• 保持可塑性，完成任务后更易适应后续任务。

动态持续学习中，传统RL易性能停滞，而FST能持续获取新任务知识，适合长期部署、需不断适应新环境的实际应用。

FST打破"参数更新vs上下文学习"二元对立，提供新训练范式。应用价值：

• 高效微调：少数据适配特定领域；
• 稳定部署：持续服务中保持通用能力；
• 多任务适应：任务间切换无干扰。

从人类认知双重加工理论（系统1/2思维）获灵感，重新思考学习本质。未来可探索多层次学习机制，扩展至多模态模型、具身智能；在不增参数前提下提升效率与适应能力是LLM领域重要方向。