叙事性AI解释对人类决策的影响：说服力越强，判断力越弱？

本文介绍arXiv上一项2026年5月发布的大规模人类行为实验研究，核心发现：LLM生成的叙事性解释虽提高用户对AI的信任度，但未提升决策准确性，反而可能延长决策时间并削弱辨别AI对错的能力。该研究为AI可解释性设计敲响警钟。

原文链接：http://arxiv.org/abs/2605.23867v1

AI解释旨在帮助用户理解和信任AI决策，传统方法如特征重要性、注意力可视化等虽提供透明度，但技术术语对非专业用户不友好。

LLM兴起带来叙事性解释，以自然语言段落阐述推理（如医疗诊断案例），优势包括易懂性、可信度、说服力，但这些优势是否转化为更好决策存疑。

实验任务：参与者在三种条件下完成分类决策——仅AI预测、AI+低说服力解释、AI+高说服力解释。

关键指标：决策准确性、AI依赖度、响应时间、辨别能力。

说服力操控：通过修辞技巧、证据引用、叙事结构、情感诉求优化解释的说服力。

1. 决策准确性无显著提升：无论解释说服力高低，与仅AI预测相比无统计学差异；
2. AI依赖盲目增加：高说服力解释既提高正确AI建议接受率，也提高错误建议接受率；
3. 决策时间延长：高说服力解释可能因阅读、认知加工等导致响应时间增加；
4. 辨别能力下降：参与者对AI错误的警觉性降低，决策模式趋于一致。

1. 启发式处理：用户被流畅叙事说服，停止深入审查推理实质；
2. 认知负荷转移：详细叙事增加认知负荷，注意力偏离核心决策因素；
3. 信任与能力混淆：将叙事流畅性误认为AI能力强，导致过度依赖；
4. 确认偏误强化：叙事提供丰富证据，强化用户初始判断，即使AI错误。

1. 重新定义解释目标：以决策质量为核心，而非仅用户满意度；
2. 警惕说服力陷阱：平衡易理解性与用户批判性思维；
3. 场景匹配解释策略：高风险场景用结构化事实+不确定性提示，快速决策用简洁预测+关键特征等；
4. 培养AI素养：提供置信度信息、鼓励质疑验证、教育AI局限。

研究局限：任务类型简单、样本代表性、长期效应未知等。未来方向包括解释类型对比、个体差异研究、交互式解释等。

人机协作应促进有意义协作：解释需帮助用户理解推理而非仅说服，鼓励批判性思维。结语：流畅叙述≠正确推理，保持独立判断至关重要。