大语言模型中的可识别受害者效应：当叙事战胜数字

本文探讨大语言模型（LLM）在处理涉及人类生命决策时存在的“可识别受害者效应”（IVE）——即倾向于优先选择拯救具体可识别个体而非更多抽象群体。研究发现，经过RLHF对齐训练的模型偏差更明显，更强推理能力反而可能“合理化”情感驱动选择。文章还分析背后机制、实际应用影响及缓解策略，提醒需在AI“人性化”与理性公正间找到平衡。

可识别受害者效应由Thomas Schelling于1968年提出，描述人类对具体个体的同情心远超过抽象群体。经典实验中，展示特定儿童的故事和照片比“数千儿童等待器官移植”的统计数据获得更多捐款，揭示人类决策易被具体叙事触发而非数字。

研究团队采用二元选择任务，控制三个变量：

1. 可识别性：一个选项含具体个体姓名、故事，另一个仅为统计数字；
2. 数量：可识别选项生命数少于统计选项；
3. 情境：医疗分配、灾难救援等场景。通过多组对照实验量化LLM的IVE偏差。

实验结果显示：

1. 基础IVE存在：零样本提示下，模型选择可识别个体概率显著高于随机；
2. 对齐放大效应：RLHF训练模型偏差比预训练模型提升15-30%；
3. 推理的双刃剑：启用Chain-of-Thought推理后，模型用复杂推理“合理化”情感选择（动机推理）。

偏差来源包括：

1. 训练数据：海量文本含人类叙事偏好，模型学习到对故事的关注；
2. 对齐目标张力：RLHF追求“有帮助”时，强化对人类情感需求的回应，无意中放大偏差；
3. 推理与偏差交互：模型“一步步思考”时，阐述可识别个体价值，为情感偏好找理由，类似人类动机推理。

应用影响：

• 医疗决策：资源可能向“有故事”病例倾斜；
• 灾难响应：优先媒体曝光事件；
• 政策分析：低估系统性方案价值。 缓解方向：

1. 显式去偏差提示；
2. 对抗性训练；
3. 多模型集成；
4. 人机协作审查。

研究揭示悖论：让AI“人性化”可能继承人类偏差。需思考对齐目标（模仿人类vs更理性公正）、效率与公平的权衡。技术需结合心理学、行为经济学。结语提醒：AI非纯粹理性机器，部署高风险场景时需应对偏差，平衡“像人”与“理性”，服务人类福祉。同时反思：人类自身能否做到公正决策？