轻量级大模型幻觉检测：基于TF-IDF与维基百科证据检索的非神经网络方案

本文介绍了一种无需神经网络的轻量级大模型幻觉检测框架，核心利用TF-IDF与余弦相似度，结合维基百科证据检索验证LLM输出中的事实声明。该方案对比了Llama-2、Mistral-7B和Qwen-2三款开源模型的可信度表现，具有轻量级、可解释性强的特点，为资源受限场景提供了可行的幻觉检测路径。

大语言模型（LLM）的"幻觉"问题是其应用于事实敏感场景（如医疗、法律）的主要障碍，模型会生成错误但看似合理的信息。现有幻觉检测方法多依赖神经网络模型，存在计算开销大、需大量标注数据、决策依据难解释等局限，因此开发轻量级、可解释的方案具有重要实践价值。

本方案采用三阶段流水线设计：

1. 声明提取：从LLM输出中识别需验证的事实性声明；
2. 证据检索：查询维基百科获取相关证据文档（基于其覆盖面广、结构化程度高的特点）；
3. 相似度验证：通过TF-IDF向量化和余弦相似度计算声明与证据的匹配度。 TF-IDF的优势在于可解释性（权重对应词汇重要性）、计算高效（无需GPU）、无需训练数据。

实验对比了三款主流开源模型：Llama-2（Meta经典模型，以安全性著称）、Mistral-7B（欧洲高效架构模型）、Qwen-2（阿里巴巴通义千问最新版本）。采用混合验证策略：直接匹配（声明与证据语义相似度）、上下文验证（段落与证据整体一致性）、多源交叉（多证据文档的一致性），提升验证鲁棒性。

轻量化意义：可在普通服务器或边缘设备运行，适合资源受限企业、数据敏感本地部署、实时应用场景； 可解释性：标记疑似幻觉时可展示关键词匹配度、证据文档、相似度数值，利于人机协作； 维基百科权衡：优势是覆盖面广、更新及时，局限是专业领域覆盖不足、可能含错误，但框架支持替换其他知识源。

当前局限：TF-IDF作为词袋模型无法捕捉语义细微差别（如"苹果公司"与"苹果水果"易误判）；维基百科对新兴/小众话题覆盖不足。 改进方向：引入轻量语义模型补充语义盲区；整合多知识源提升覆盖率；对不同复杂度声明采用分级验证策略。

该开源项目为社区提供了实践参考，证明经典信息检索技术在神经网络主导时代仍有独特价值（可解释、高效、无需训练数据）。大语言模型幻觉问题短期内难以根除，但轻量级检测工具可降低风险，这类低成本、高可解释性的工具将在AI安全生态中发挥重要作用。