大型语言模型中存在"情绪神经元"吗？一项ACL 2025 Findings研究揭示LLM情绪处理的神经机制

韩国研究团队在ACL 2025 Findings上发表研究，首次系统性证实Llama-3.1等模型中存在专门处理特定情绪的神经元群组。这些"情绪神经元"的分布随模型规模和架构深度变化，且不同情绪对神经元移除的敏感度存在显著差异。研究为LLM可解释性及情绪处理机制提供了关键洞察。

LLM在情感分析任务表现出色，但核心问题仍存：模型是真"理解"情绪还是统计模仿？是否存在专门处理特定情绪的神经机制？本研究基于保罗·艾克曼的六种基本情绪理论（喜悦、悲伤、愤怒、恐惧、厌恶、惊讶）构建实验框架，探索LLM内部情绪处理机制。

研究核心基础是EmoPrism大规模合成对话数据集，含293,725条单情绪标注对话。构建流程为：315种子话题扩展至5040个话题→合成302400条对话→三模型标注+多数投票确定标签。合成数据可精确控制情绪分布，避免真实数据混杂问题，已开源（CC-BY-4.0）。

识别策略：统计FFN神经元在各情绪token上的激活次数，计算熵值。熵值低的神经元对特定情绪有选择性响应，取全局熵最低1%定义为情绪神经元并分配至最强激活情绪。实验在Llama-3.1-Instruct 8B/70B模型上进行，发现存在情绪特异性聚类，分布随模型规模和层数变化。

通过"零消融"实验验证功能：将情绪神经元输出置零，测量情绪分类准确率变化。结果显示：愤怒、恐惧对神经元移除敏感（准确率骤降）；喜悦、惊讶性能基本不变或提升（可能因神经元重叠补偿）。表明不同情绪处理策略不统一。

情绪信息贯穿模型多个层级：浅层负责基础情绪特征提取，深层参与复杂情绪理解与上下文整合。模型规模差异显著：8B与70B在情绪神经元分布和功能上不同，提示模型扩容可能带来情绪处理能力质的变化。

本研究为LLM可解释性开辟新方向，证实情绪神经元存在为模型编辑和安全对齐提供干预靶点。应用上，可通过调节特定神经元实现情绪输出精确调控，助力更安全可控的AI助手开发。数据集与代码已开源，支持后续研究复现扩展。

ACL 2025 Findings研究通过严谨实验首次证实主流LLM中情绪神经元存在，深化了对LLM情绪处理机制的理解，为开发更具可解释性和可控性的AI系统提供重要启示。开源社区参与有望推动该领域更多突破。