ESM-2酶家族分类系统：基于蛋白质语言模型的生产级微调方案

本项目介绍了基于ESM-2蛋白质语言模型的酶家族分类生产级微调系统，旨在解决传统序列比对方法在远缘同源蛋白分类中的不足。系统整合LoRA参数高效微调、同源性感知数据分割、温度缩放校准、集成梯度可解释性等关键技术，实现从数据处理、模型训练到生产部署的完整流程，为酶功能注释提供可靠解决方案，可应用于药物发现、合成生物学等领域。

酶家族分类是计算生物学和药物发现的基础任务，对靶点识别、选择性分析等至关重要。传统方法（如BLAST、HMM）依赖序列相似性，在远缘同源蛋白（序列相似性低但功能结构相似）分类中表现不佳。蛋白质语言模型（如ESM-2）通过学习进化共变异信息，可捕捉功能结构信息，为超越浅层序列相似性的分类提供理论基础。

项目聚焦四个关键科学问题：

1. 表征能力评估：ESM-2嵌入向量对酶家族身份的编码程度，微调与零样本分类的性能差异；
2. 数据分割策略：如何避免同源性泄漏（导致性能虚高）；
3. 不确定性量化：模型置信度是否校准良好，何时信任预测；
4. 可解释性分析：哪些序列位置驱动分类决策，是否对应功能重要残基。

核心技术

1. LoRA参数高效微调：冻结ESM-2预训练权重，在q/v投影层注入低秩矩阵，仅更新0.36%参数，避免灾难性遗忘，性能接近全量微调；
2. 同源性感知分割：用MMseqs2在30%相似性阈值聚类，确保同一聚类序列仅在一个数据集（训练/验证/测试）中，避免同源性泄漏；
3. 温度缩放校准：训练后用温度缩放校准置信度，报告ECE和可靠性图，标记低置信度序列；
4. 集成梯度可解释性：替代不可靠的注意力权重，生成可与MSA保守性交叉验证的残基重要性归因。

数据集预处理

• 来源：UniProtKB/Swiss-Prot（约57万条带EC注释的蛋白质）；
• 筛选：保留有EC编号、长度50-1024残基的序列，100%相似性去重；
• 分割：MMseqs2 30%相似性聚类后按70%/15%/15%分配训练/验证/测试集。

训练配置

• 工具：HuggingFace Transformers、PEFT库；
• 优化：AdamW、余弦学习率、梯度裁剪、早停（基于验证集宏F1）；
• 跟踪：MLflow记录超参数与实验结果。

生产部署

系统通过FastAPI提供推理端点，支持Docker打包，可部署到生产环境。端点接收蛋白质序列，返回分类结果、校准后置信度及归因可视化。

应用前景

可应用于：

• 新药发现中的靶点识别与选择性分析；
• 合成生物学中的酶工程改造；
• 宏基因组学酶功能注释；
• 蛋白质设计中的功能预测。

该系统结合PLM的强大表征与严格机器学习实践，实现前沿研究向可靠生产系统的转化。