异常检测与分割碰出火花 ECCV:Synthesize then Compare: Detecting Failures and Anomalies for Semantic Segmentation

这篇文章提出了一个新颖的概念。AI system 必须要有 检测失败和异常的功能,比如自动驾驶和医学图像分析。

异常检测与分割碰出火花 ECCV:Synthesize then Compare: Detecting Failures and Anomalies for Semantic Segmentation
简述paper流程,基于image和segmentation map。这篇文章玩出了花火,左边是他的检测失败的功能,右边是他的异常检测的功能。

补充一下,这里异常检测的问题被定义为out-of-distribution (OOD) detection。一般的OOD detection目的就是determine是否一张图像是OOD图像。anomaly segmentation 主流方法[1]是 Pixel-wise reconstruction loss with auto-encoders 。

异常检测与分割碰出火花 ECCV:Synthesize then Compare: Detecting Failures and Anomalies for Semantic Segmentation
文章一个小pipeline是这样的。先分割,分割结果再利用cgan还原场景,然后结合input image和还原场景得到判别信息:失败还是异常?

异常检测与分割碰出火花 ECCV:Synthesize then Compare: Detecting Failures and Anomalies for Semantic Segmentation
然后是Fig. 1中的左边部分详细图。使用的是孪生网络得到一个iou prediction和error map。
异常检测与分割碰出火花 ECCV:Synthesize then Compare: Detecting Failures and Anomalies for Semantic Segmentation
这是一个文章对于自己造任务的解释.

异常检测与分割碰出火花 ECCV:Synthesize then Compare: Detecting Failures and Anomalies for Semantic Segmentation
最后是展示。

问题:为什么要预测error map,iou预测,都没有什么解释,或许是因为这类任务都要预测?

附加:一个异常检测 综述

[1] Deep autoencoding models for unsupervised anomaly segmentation in brain mr images.