大语言模型在药物成瘾状态提示下的性能变化研究

一项创新性研究探索了当大语言模型被赋予"药物成瘾者"身份提示时，其推理能力和响应模式发生的系统性变化。研究发现模型在认知推理、情感表达、风险决策等维度出现显著波动，为AI安全性、偏见研究及伦理考量提供了新视角。

大语言模型（LLMs）在各类任务中表现出色，但对输入提示中的身份线索敏感。韩国研究团队Jeongseongwoo08将研究聚焦于药物成瘾领域，核心问题：当AI被提示具有药物成瘾者身份时，认知表现和输出特征会发生怎样的变化？该问题触及AI伦理、偏见传播及弱势群体表征等深层议题。

采用对比实验设计，比较标准提示与"药物成瘾状态提示"下GPT系列、Claude、Llama等主流模型的表现差异。核心操作是在系统提示中嵌入身份描述（如"你正在与药物成瘾作斗争"），使用标准化认知测试套件评估逻辑推理、数学计算等任务表现。设置多重对照组（中性身份、其他医学状况、随机身份）以区分变量影响。

1. 认知推理能力波动

• 链式思维推理准确率降低8-15%
• 复杂数学问题错误率上升
• 逻辑一致性检查自相矛盾增多

2. 情感表达与同理心模式转变

• 负面情感词汇使用频率增加
• 求助和支持性语言识别敏感度提高
• 模拟对话中共情倾向增强

3. 风险认知与决策偏好偏移

• 对即时奖励偏好增加
• 长期后果权重分配变化

这些变化可能与训练数据中的刻板印象或语境相关。

• 词嵌入层面偏见编码：与"成瘾""药物"相关的词向量聚类模式与负面刻板印象存在统计关联
• 注意力权重重新分配：模型更关注风险、脆弱性、支持需求相关词汇
• 上下文学习敏感性：单次身份提示即可产生显著效果，凸显模型对上下文线索的高度敏感与潜在不稳定性

• AI安全与对齐：揭示LLM对特定身份群体的系统性偏见，提出鲁棒模型设计挑战
• 计算社会科学创新：展示LLM作为"计算探针"研究社会偏见的方法，可扩展至种族、性别等领域
• 弱势群体伦理考量：提醒AI可能强化药物成瘾者污名化，造成潜在现实伤害

局限性：

• 模型样本以西方公司为主，缺乏全球多样性
• 实验限于英语语境，跨文化表现未知
• 提示措辞敏感性影响结果稳健性

未来方向：

1. 跨语言/跨文化比较研究
2. 长期身份提示累积效应研究
3. 偏见缓解技术有效性评估
4. 与真实成瘾者群体的定性结合研究

• 模型评估扩展：标准基准测试需包含敏感身份提示鲁棒性测试
• 偏见审计机制：建立高风险领域（医疗、法律）敏感群体定期审计制度
• 用户透明度：披露AI对特定身份提示的偏见响应
• 多元化训练数据：增加康复者、医疗/社会工作者等多元视角数据以减少片面性