神经网络蒸馏蛋白质折叠动力学：从LSTM到Transformer的反应坐标提取

本文是利兹大学本科学位论文项目，核心研究方向为探索LSTM和Transformer神经网络能否从蛋白质折叠动力学中提取具有物理意义的反应坐标，并采用committor理论和Zq验证方法评估其有效性。反应坐标是理解蛋白质折叠机制的关键低维描述，本研究结合机器学习与生物物理理论，为解决蛋白质折叠问题提供新视角。

蛋白质折叠是分子生物学的核心难题，线性多肽链需在特定时间尺度折叠为三维结构，其机制对药物设计、疾病治疗等至关重要。传统分子动力学模拟产生高维数据，难以直观分析，因此反应坐标（RC）作为低维描述工具应运而生，用于捕捉折叠过程的关键特征。传统RC依赖专家经验设计，可能遗漏重要信息，而机器学习方法可从原始轨迹中自动学习隐藏模式。

本研究对比两种序列建模架构：

1. LSTM：通过门控单元（输入门、遗忘门、输出门）处理构象序列的长程依赖，捕捉折叠过程中的关键转变点，输入为构象特征（如原子坐标、二面角），输出为学习到的RC值。
2. Transformer：利用自注意力机制并行处理序列，捕捉任意位置的依赖关系，多头注意力可从多视角（如二级结构形成、疏水核心坍缩）表征折叠过程，克服LSTM的梯度消失问题。

为验证RC的物理意义与预测能力，采用两种方法：

• committor理论：统计力学工具，定义构象先折叠为folded状态的概率，优质RC应与committor高度相关，避免昂贵的过渡路径采样，直接从平衡轨迹学习。
• Zq验证：量化RC的预测能力，衡量当前RC值对系统未来q步构象分布的预测准确性，Zq越接近1表示预测能力越强，提供客观比较标准。

项目中的“蒸馏”包含两层含义：

1. 信息蒸馏：从高维分子动力学轨迹中压缩出低维RC，保留关键折叠信息，舍弃无关细节。
2. 模型蒸馏：将复杂模型（如深层Transformer）的知识迁移到简单模型（如浅层LSTM），在保持RC质量的同时降低计算成本。

本研究体现计算生物学前沿趋势：深度学习与物理理论结合。其应用包括：

• 药物设计：识别药物靶点与干预策略；
• 疾病研究：揭示蛋白质错误折叠相关疾病（如阿尔茨海默病）的分子机制；
• 合成生物学：指导新型蛋白质的设计。

研究面临的挑战及未来方向：

• 数据需求：训练需大量长时程模拟数据，可通过迁移学习/预训练缓解；
• 可解释性：需利用可解释AI技术（如注意力可视化）理解网络关注的构象特征；
• 泛化能力：探索模型在不同蛋白质间的迁移性，利用局部结构共性（如α螺旋）提升泛化。

本项目融合机器学习与分子生物物理学，通过LSTM和Transformer提取反应坐标并验证其有效性，为理解蛋白质折叠机制提供新工具。随着计算能力与算法进步，数据驱动的RC学习方法将在蛋白质科学中发挥更重要作用，最终目标是实现“可解释AI”，揭示折叠背后的物理原理。