医疗AI中的种族偏见：当大语言模型遇上临床诊断，我们该如何"不伤害"？

本研究以欧盟AI法案为治理框架，评估五大主流LLM在临床场景中的种族偏见问题。核心发现包括：所有模型在合成病例生成中存在种族分布偏差；DeepSeek V3在鉴别诊断任务表现突出；其嵌入检索增强的智能体工作流后，偏见指标显著改善。研究旨在探讨如何让医疗AI遵循"不伤害"的伦理原则，避免加剧健康不平等。

大语言模型的偏见源于训练数据中的结构性不平等与刻板印象，在医疗领域可能表现为疾病风险评估偏差等。以往研究存在局限：单一模型对比少、侧重发现问题而非解决、缺乏系统性治理框架指导。本研究以欧盟AI法案（高风险AI系统公平性要求）为评估基准，填补这些空白。

研究采用双任务评估模型的隐性与显性偏见：1. 合成病例生成任务：对比模型生成病例与美国真实流行病学种族分布的偏差；2. 鉴别诊断排序任务：测试不同种族患者的诊断排序是否与专家黄金标准一致，有无系统性偏差。

1. 所有被测模型在合成病例生成中均偏离真实种族分布，GPT-4.1偏离最小但仍有偏见；2. DeepSeek V3在鉴别诊断任务中整体表现最佳；3. DeepSeek V3嵌入智能体工作流后，偏见指标显著改善：平均p值提升0.0348，中位数p值提升0.1166，平均差异降低0.0949。

智能体工作流相比传统单轮推理有三大改进：1. 外部知识检索：查询权威医学数据库/指南，减少内部记忆偏差；2. 结构化推理链：分解诊断为子任务，易识别纠正偏见；3. 可验证中间步骤：便于审计，为偏见检测提供抓手。

1. 多维度评估：需用p值、平均差异等多种指标全面捕捉偏见；2. 架构设计：将LLM嵌入智能体工作流是提升公平性的关键；3. 监管驱动：以欧盟AI法案为基准评估，明确合规目标与重要维度。

局限：基于美国流行病学数据，结果适用性需验证；智能体改善幅度不均。未来方向：探索不同智能体架构效果、多模态医疗AI的偏见问题、长期临床部署中偏见的动态变化。