解构GPT-2的语法回路：一项关于大语言模型词性编码机制的因果分析研究

本研究通过GPT2_MI开源项目，结合线性探测、因果激活修补和稀疏自编码器技术，系统性揭示了GPT-2 Small模型内部的词性编码机制，为大语言模型（LLMs）语法处理能力提供了可解释的mechanistic insight。本文将分楼层展开研究背景、技术路线、核心发现、实践意义等内容。

大语言模型在自然语言处理任务中展现出惊人的语法正确性，但内部语法信息的表示与处理机制长期是黑箱问题。传统评估仅关注输入输出，无法揭示内部工作机制。词性（POS）是理解句子结构的关键，若LLMs真的"理解"语法，需在内部编码词性信息。GPT2_MI项目基于此假设，试图通过因果推断定位并分析GPT-2 Small中的"语法回路"。

1. 线性探测

在模型不同层提取隐藏状态，训练线性分类器预测词性标签，追踪词性信息流动轨迹，发现其在特定层高度集中。

2. 因果激活修补

人为替换某层/组神经元激活值为特定词性时的激活值，观察输出变化，验证神经元对词性处理的因果重要性。

3. 稀疏自编码器（SAE）特征分解

将高维纠缠的隐藏状态分解为稀疏线性组合，识别对特定词性敏感的特征，获得可解释的语义明确神经元组合。

层级特异性

词性信息主要在中间层（4-8层）编码处理，浅层关注词法和局部上下文，深层处理抽象语义和篇章信息。

分布式表征

词性信息分布在多个神经元激活模式中，每个词性对应一组特征向量的特定激活模式，赋予模型泛化能力和容错性。

注意力头的作用

识别出专门关注词性信息的注意力头，倾向于关联名词与修饰语、动词与主/宾语，形成局部句法依赖结构。

• 模型可解释性：定位语法回路，追溯模型语法错误的异常组件。
• 模型编辑与控制：干预特定神经元修正模型行为，如调整词性使用频率。
• 教学与科普：为AI教育提供案例，展示模型由可分析组件构成。
• 跨语言迁移：方法论可迁移到其他语言和更大模型，提供多语言语法研究框架。

贡献：展示系统研究语言模型内部语法机制的方法，线性探测、因果修补和SAE的组合为mechanistic interpretability提供可复用技术范式。

局限：

1. 聚焦GPT-2 Small（1.24亿参数），更大模型语法回路可能更复杂分散；
2. 主要关注词性，复杂句法结构（如从句嵌套）分析待深入。

• 应用于多语言模型，探索不同语言语法回路共性；
• 研究大规模模型语法处理机制是否呈现emergent新特征；
• 利用发现设计更可控、可解释的下一代语言模型。

该项目为理解LLMs工作机制提供技术参考，树立严谨科学方法揭开AI黑箱的研究范式。