HAICON 2026 神经网络不确定性量化工作坊：让模型预测更可信

HAICON 2026官方工作坊材料，系统讲解深度学习中的不确定性量化方法，从理论到实践，涵盖回归、分类和地球观测应用，并提供可直接运行的Colab笔记本。

• 原作者/维护者: ChrisKo94
• 来源平台: GitHub
• 原始标题: HAICON_2026_Trustworthy_UQ_Workshop
• 原始链接: https://github.com/ChrisKo94/HAICON_2026_Trustworthy_UQ_Workshop
• 发布时间: 2026-06-04

深度学习模型在图像识别、自然语言处理、自动驾驶等领域取得了惊人成就，但一个根本性问题始终困扰着从业者：模型知道自己不知道什么吗？

想象一个医疗AI系统诊断患者病情，或者自动驾驶汽车识别道路障碍物。如果模型对错误预测过于自信，后果可能是灾难性的。这就是不确定性量化（Uncertainty Quantification, UQ）的核心价值——让模型能够诚实表达"我不确定"。

HAICON 2026（AI for Health, Environment and Earth Sciences Conference）专门为此举办了一场一小时的手把手工作坊，从玩具级回归示例到真实的地球观测应用，全面覆盖UQ的理论与实践。

整个工作坊包含四个循序渐进的Jupyter Notebook，每个都配有可直接运行的Google Colab链接：

这一部分从最简单的回归问题入手，介绍了多种基础但有效的方法：

• 高斯负对数似然（Gaussian NLL）：不只是预测一个数值，而是同时预测均值和方差，让模型学会表达数据噪声
• 模型校准（Calibration）：检查模型预测的置信度是否与真实准确率匹配，解决"过度自信"问题
• MC Dropout：在测试时保持dropout开启，通过多次前向传播获得预测分布，几乎零额外成本
• 分位数回归（Quantile Regression）：使用Pinball损失函数，不假设噪声分布也能估计预测区间
• 深度集成（Deep Ensembles）：训练多个独立模型，用预测方差估计不确定性，效果出色但计算成本高
• SNGP（Spectral Normalized Gaussian Process）：结合谱归一化和高斯过程，在保持单模型效率的同时获得可靠的不确定性估计

分类任务面临独特挑战，尤其是Softmax函数常常产生过度自信的预测。这一部分探讨了：

• Softmax过度自信问题：为什么模型对错误分类也能给出99%的"置信度"
• 温度缩放（Temperature Scaling）：一种简单有效的后处理校准技术，不改变模型就能改善置信度
• MC Dropout在分类中的应用：如何通过预测熵和方差识别不确定样本
• SNGP用于分类：相比Softmax更可靠的预测概率
• 分布外检测（OOD Detection）：当输入与训练数据完全不同，模型应该如何识别并拒绝预测

理论需要落地。这一部分使用EuroSAT卫星图像数据集，演示了真实世界中的UQ挑战：

• 使用真实的卷积神经网络处理卫星图像
• 通过合成云层引入分布偏移，模拟真实场景中的数据漂移
• 区分偶然不确定性（Aleatoric，数据本身噪声）和认知不确定性（Epistemic，模型知识缺失）
• 展示当输入数据质量下降时，不确定性如何正确增长

最后介绍了一个开源工具，让UQ不再只是研究概念：

• Lightning-UQ-Box：基于PyTorch Lightning构建的完整UQ框架
• 提供即插即用的API，支持回归、分类和分割任务
• 内置所有工作坊介绍的方法，可直接复制粘贴到生产代码
• 自动化的训练和评估流程，降低工程门槛