大语言模型的"认知疲劳"现象：南卡罗来纳大学AI研究所揭示Transformer长文本生成中的结构性退化

南卡罗来纳大学人工智能研究所提出"认知疲劳"概念，描述自回归语言模型在长文本生成中出现的性能退化现象，并开发可推理时实时计算的疲劳指数。研究还构建了Chatsparent实时监测干预系统，为提升长对话体验和AI系统可靠性提供技术框架。

在与ChatGPT、Claude等大模型长时间对话时，常出现回答质量下降（重复内容、指令遵循减弱、输出不稳定）。这种现象是自回归Transformer架构生成长序列的固有结构性特征。南卡罗来纳大学AI研究所针对此展开系统性研究，正式定义为"认知疲劳"，并提出推理阶段实时监测的轻量级诊断工具。

认知疲劳定义为：单次推理中，模型在指令遵循能力、表征稳定性和预测校准方面的可测量退化，是解码过程中序列长度增加累积的状态漂移（非参数变化）。核心症状包括：

1. 指令遵循衰减：偏离原始提示约束
2. 表征不稳定：隐藏状态分布漂移，语义一致性下降
3. 熵值异常：输出分布熵值波动，反映不确定性异常变化

疲劳指数（FI）是归一化、模型无关的诊断指标，推理时逐token计算无需重训练，综合三类信号：

1. 提示注意力衰减：监测Transformer对原始提示的注意力权重分散程度
2. 嵌入漂移：追踪隐藏层表征的系统性漂移模式
3. 熵偏差：观测输出分布熵值的异常波动（过度不确定或重复）

对九个不同规模/架构的模型验证，结果支持认知疲劳的普适性（自回归生成机制固有特性）。关键发现：

• 所有测试模型均观测到疲劳，程度和形式因模型而异
• 疲劳指数与人工评估的输出质量下降高度相关
• 疲劳信号早于肉眼可见的质量下降，支持早期干预
• 不同任务（问答、摘要、创作）中疲劳模式存在差异

基于疲劳指数开发的Chatsparent系统在AAAI 2026展示，功能包括：

1. 实时可视化：对话中显示疲劳指数变化曲线
2. 早期预警：质量明显下降前发出警告
3. 无重训练干预：动态调整解码参数、提示刷新、上下文压缩等策略（无需修改模型权重） 该系统实现"检测-预警-干预"闭环，提升长对话体验。

认知疲劳研究的价值体现在：

• 用户层面：合理设计提示策略（适时重置上下文、分块处理长文本）
• 开发者层面：为模型评估提供新维度（比较长文本生成稳定性）
• AI安全层面：监测指令遵循下降带来的风险，构建可靠系统
• 硬件优化：性能下降时终止生成，避免计算资源浪费

当前局限：

1. 疲劳指数需访问模型内部状态，对闭源API模型（如GPT-4）适用性有限
2. 不同任务/领域疲劳模式差异需更多验证
3. 干预策略效果待提升（保持连贯性同时缓解疲劳） 未来方向：

• 开发黑盒版本疲劳估计方法
• 探索架构改进（如动态注意力机制）
• 集成疲劳监测到生产级LLM服务