HumbleBench：多模态大语言模型的认知谦逊评估基准

HumbleBench是针对多模态大语言模型（MLLMs）认知谦逊能力的评估基准，填补了传统基准忽视模型在不确定性下自我认知与诚实表达能力的空白，强调该能力对构建可靠、安全AI系统的核心价值。

随着MLLMs在高可靠性场景应用增多，传统基准仅关注准确率，却忽略模型在不确定或信息不足时是否能诚实承认局限性。认知谦逊（模型面对知识边界时的自我认知和诚实表达）长期被忽视，HumbleBench的出现填补了这一空白。

AI领域的认知谦逊包含三层含义：

1. 自我认知：准确评估自身对问题的了解程度；
2. 不确定性表达：信息不足时恰当表达而非编造答案；
3. 边界意识：清楚知识边界不越界回答。 该能力是医疗、法律等高风险领域可靠AI辅助的关键。

HumbleBench的核心设计包括：

1. 多维度测试场景：明确可答问题、模糊/信息不足问题、专业知识问题、多模态信息缺失场景；
2. 量化指标：正确率与置信度匹配度、无解问题拒绝率、过度自信/不足比例、难度一致性；
3. 多模态特性：关注视觉-语言交互中的谦逊表达，如图像信息不足时是否识别缺口。

认知谦逊直接影响AI实用性与安全性：

• 避免幻觉：不确定时不编造错误信息；
• 提升人机协作：用户可判断何时人工介入；
• 风险评估：高风险决策中，模型可靠性比准确率更关键；
• 持续学习：识别知识边界是针对性补充知识的基础。

HumbleBench反映AI研究转向可靠性与可解释性，与AI安全方向一致。它提出新问题：如何在提升模型能力同时保持认知谦逊？涉及训练数据、损失函数、后处理校准等技术挑战。

HumbleBench是AI评估的重要进步，提醒智能系统需知何时不该回答。在追求更强模型时，需关注认知谦逊这类微妙却关键的能力，它为开发者提供实用工具，未来在关键领域应用中更重要。