不确定性学习在视觉识别中的应用

Similarity score 和 Confidence score

We need to know that we don`t know

为什么不确定性是比较重要的

• 对于高风险的应用非常有价值

  • 对于医学印象分析
  • 对于自动驾驶

• 机器学习场景

  • 主动学习：挑那些不确定度高的样本来标注
  • 强化学习：explore/exploit dilemma之间的tradeoff

• Out-of-districution detection / Open set

  • CIFAR-10 作为训练集
  • 人脸作为测试集，依然会输出一个类别，

数据不确定性：被称作偶然不确定性

• 通常的方法是增加测量的精度或许会有帮助

模型不确定性：被称作认知不确定性

• 通常的方法是增加训练数据大小

深度神经网络是 deterministic（确定的）

如何给 DNN 引入不确定性

• Bayesian Neural Networks
• Variational Inference for posterior approxomation
• Dropout as Bayesian Networks + VI, also called Monte Carlo Dropout
• Model ensemble for uncertainty estimation
  • Model ensemble 的方差作为不确定性，均值作为输出
  • MC Dropout is an especial model ensemble
• Estimate Data Uncertainty in Regression

模型不确定性

数据不确定性：和 Label Noise 是有关的

NIPS 2017 What Uncertainties Do We Need？(NIPS 2017)

数据不确定性和模型不确定性的可视化

Data Uncertainty in Object Detection

标注不确定的情况，有标注不一致的情况

• Bounding Box Regressing with Uncertatinty for Accurate Object Detection, CVPR 2019
• Gaussian YOLOv3: An Accurate and Fast Object Detector Using Localization Uncertainty for Autonomous Driving, ICCV 2019

Data Uncertainty in Object Detection

从确定的 enbedding 变为 概率分布的 enbedding，每个样本都有个均值和方差作为 enbedding，质量较低以及噪声严重 的图像的方差更大，但这里是针对 x->y 样本的 x 带噪的情况，例如Gaussian Blur 数据增强的分数

总结

参考资料

https://www.techbeat.net/talk-info?id=359