ActLCD：主动层对比解码技术显著降低大语言模型幻觉问题

普渡大学与加州大学戴维斯分校研究团队提出ActLCD（Active Layer-Contrastive Decoding），一种通过强化学习策略动态激活层对比机制的新型解码方法。该方法在TruthfulQA、LongFact、StrategyQA等五个基准测试中全面超越现有SOTA方法，最高提升达19.81%，且已被EMNLP 2025主会接收。

大语言模型（LLMs）生成文本时易出现“幻觉”——输出看似合理但错误的内容，制约其在关键任务中的应用。现有解码方法多在token层面操作，难以应对长上下文累积错误；部分层对比方法可能因强迫过早解读长句导致“误解雪球效应”，放大早期偏差。

ActLCD将解码建模为马尔可夫决策过程（MDP），核心机制包括：1.动态层对比激活：根据当前上下文判断是否激活层对比及对比哪些层，避免过度干预；2.奖励感知分类器：轻量级策略网络基于隐藏状态预测应用层对比的期望回报，实现全局优化。

ActLCD在五个基准测试中表现优异：

• TruthfulQA：事实性提升19.81%
• LongFact F1@128：长文本事实性提升3.30%
• StrategyQA：推理能力提升7.51%
• GSM8K：数学推理提升7.21%
• Package Hallucination：代码生成可靠性提升9.23%

数学应用题案例显示：贪心解码遗忘初始值致错；SLED/DoLa早期误解构建错误推理链；ActLCD通过选择性激活层对比，利用深层知识构建连贯逻辑链，得出正确答案，规避了传统层对比方法的根本性误解风险。

ActLCD的优势：全局优化视角（超越单token优化）、动态适应性（智能调整策略）、广泛适用性（多任务优异）、轻量高效（易集成）。该方法已开源，为提升LLM可靠性提供可行方案，获EMNLP 2025主会认可。

ActLCD通过强化学习驱动的动态层对比机制，展示了在保持生成质量同时提升事实准确性的可能。随着技术发展，有望推动更可靠可信的AI助手应用于实际场景。