LLMInertia：通过自适应反惯性推理提升大语言模型证据忠实度的新方法

清华大学机器学习组（THUMLP）在ICML 2026提出LLMInertia方法，通过自适应反惯性推理机制解决大语言模型（LLM）的"惯性思维"问题，显著提升证据忠实度与推理可靠性。相关成果已开源至GitHub（链接：https://github.com/THUMLP/LLMInertia），发布时间为2026-06-03。

LLM生成回答时易出现"惯性思维"现象——形成初步判断后，后续推理会不自觉寻找支持该判断的证据，忽视或弱化矛盾证据，导致输出偏离事实依据，损害证据忠实度（衡量LLM可靠性的核心指标）。现有研究表明，即使最先进的LLM在复杂推理任务中也难以完全避免此认知偏差。

LLMInertia的核心是自适应反惯性推理机制：当检测到推理步骤存在认知偏差时，自动触发反惯性流程，主动寻找被忽视的反面证据并重新评估结论合理性。关键组件包括：1.惯性检测模块（分析注意力分布变化与置信度波动识别惯性节点）；2.证据重平衡机制（显式列出相悖证据并评估其可信度，模拟"魔鬼代言人"策略）；3.自适应融合模块（基于不确定性加权整合原始与反惯性推理结果）。该方法可动态调整反惯性强度与频率，平衡修正效果与推理效率。

LLMInertia在多任务中取得显著提升：事实核查任务证据忠实度提高15%以上；科学问答（Science QA）、多跳推理任务也有稳定改进。同时，反惯性推理仅在高惯性风险时触发，推理时间平均增幅控制在20-30%，开销可接受。GitHub仓库提供完整实现及评估脚本，方便复现实验结果。

LLMInertia具有理论与实践价值：理论上为LLM推理改进提供新视角；实践中可应用于医疗诊断辅助（避免过早锁定诊断）、法律文书分析（客观评估所有证据）、学术文献综述（减少确认偏误）等场景。其自适应特性可灵活调整触发阈值，适配资源受限环境，平衡证据忠实度与推理效率。

LLMInertia有效缓解LLM推理中的认知偏差，在不显著增加计算开销的前提下提升证据忠实度。随着LLM在关键领域应用增多，确保输出忠实于证据成为AI研究核心议题，LLMInertia提供了可行技术路径，开源实现为社区进一步研究与应用奠定基础。未来期待更多类似技术涌现及真实世界部署。