MedHAM：医疗大语言模型幻觉检测与缓解策略的系统研究

MedHAM（Medical Hallucination Assessment and Mitigation）是专注于医疗领域大语言模型幻觉现象评估与缓解的开源研究框架，通过建立标准化评估体系，系统性对比检索增强生成（RAG）与引用提示（Citation Prompting）两种技术的有效性，为医疗AI的安全临床应用提供实证支撑。

大语言模型在医疗领域应用前景广阔，但幻觉问题（生成看似合理却错误的内容）是制约其临床应用的核心障碍。现有RAG和引用提示两种缓解策略受关注，但缺乏系统性实证研究回答哪种方法更有效及适用条件。

MedHAM由Hussam-q团队开发，代码托管于GitHub，旨在建立标准化评估框架对比幻觉缓解技术。核心贡献包括：1. 定义幻觉检测、准确性评估等多维指标体系；2. 相同条件下对比RAG与引用提示效果；3. 构建医疗专用测试数据集；4. 提供可复现的开源实验流程。

检索增强生成（RAG）

结合外部知识库，回答时参考权威来源，优势为答案可追溯、知识库独立更新、适用于需最新医学知识场景。

引用提示（Citation Prompting）

通过提示词引导模型生成带引用的回答，不依赖外部检索，优势为实现简单、响应快、适合模型已充分训练的知识领域。

实验选取主流LLM，在标准化医疗问答数据集评估三个维度：

1. 幻觉发生率：基线模型幻觉倾向高，尤其罕见病或复杂药物相互作用问题；
2. 回答准确性：两种技术均提升准确性，RAG在需最新临床指南问题更优，引用提示在基础医学知识问题效果显著；
3. 错误信息识别：模型识别并拒绝超范围问题的能力是关键安全机制。

研究证实幻觉缓解技术的必要性，为技术选型提供依据：需最新医学知识的应用（如药物相互作用检查）选RAG；基础健康咨询场景选引用提示。MedHAM开源框架推动领域标准化，助力医疗AI安全标准建立。

当前局限：评估以问答准确率为主，未覆盖复杂临床决策场景，未细化不同医学专科需求。未来方向：多模态医疗数据幻觉检测、实时知识更新与RAG结合、人机协作场景风险管控、跨语言医疗AI幻觉问题研究。