可行动机械可解释性实用指南：定位、引导与改进大语言模型

本文是关于大型语言模型（LLM）机械可解释性（MI）的系统性综述研究，聚焦“可行动”的MI技术——研究者不仅能理解模型内部机制，还能主动定位特定功能电路、引导模型行为并针对性改进模型表现。这种“定位-引导-改进”的闭环框架，推动MI从纯学术研究走向实际应用，为模型编辑、安全对齐等任务提供新路径。

机械可解释性与传统黑盒解释方法（如LIME、SHAP）不同，试图打开神经网络黑箱理解内部计算机制。早期MI停留在“观察”层面（发现特定概念电路但难实际应用），而“可行动的机械可解释性”代表范式转变，强调定位、引导、改进的闭环，使MI走向实际应用。

可行动MI核心在于干预性分析，关键技术包括：

1. 激活修补与因果追踪：激活修补替换输入激活观察输出变化；因果追踪构建因果图揭示信息流动路径。
2. 自动电路发现：ACDC通过相关性和因果依赖识别最小功能电路，EAP扩展到层间连接高效识别关键通路。
3. 稀疏自动编码器（SAE）：分解模型激活为稀疏可解释特征基，解决神经元多义性问题。

1. 模型编辑与知识更新：定位存储事实的组件，“手术刀式”修改知识（如更新首都信息），精确高效且可解释。
2. 行为引导与风格控制：激活引导通过添加方向向量（如诚实方向）控制模型风格，轻量级运行时调整。
3. 有害能力定位与安全对齐：红队测试触发有害输出→因果追踪定位关键组件→消融实验验证→安全编辑抑制有害行为，比RLHF更透明可审计。

挑战：规模复杂性（大型模型电路难分析）、多义性顽固存在、干预副作用与鲁棒性、因果性验证不足。 未来方向：跨模态MI、动态电路分析、MI驱动模型设计、MI工具大众化。

可行动MI带来范式转变：

1. 从性能优先到理解优先；
2. 从端到端训练到模块化干预；
3. 从黑盒安全到透明安全。 这些转变对高风险场景下的AI部署至关重要。

可行动MI不仅是技术方法，更是研究哲学——相信理解带来控制，控制带来责任。它帮助构建更可信、可控、负责任的AI系统，需将这些能力转化为实际产品特性和安全机制，让可解释AI真正服务人类。