BidNet：无视差估计的双目图像去雾（CVPR2020)
点击上方“3D视觉工坊”，选择“星标”
干货第一时间送达
作者：陈翔
https://zhuanlan.zhihu.com/p/148344528
本文仅做学术分享，如有侵权，请联系删除。
论文下载地址：
http://openaccess.thecvf.com/content_CVPR_2020/papers/Pang_BidNet_Binocular_Image_Dehazing_Without_Explicit_Disparity_Estimation_CVPR_2020_paper.pdf
严重的雾度会导致图像质量严重下降，从而影响视觉感知、目标检测等性能。通常，去雾化的双目图像在像3D目标检测等立体视觉任务上的表现要优于雾度较高的图像，并且图像雾度是一个与深度有关的函数。在这些基础上，本文提出了一种双目图像去雾网络（BidNet），旨在利用深度学习框架的对双目左右图像进行去雾。
现有的双目除雾方法依赖于同时除雾和估计视差，而BidNet不需要明确执行耗时长、具有挑战性的视差估计任务。但是，由于视差的小误差会引起深度变化和无雾图像估计的大变化，BidNet网络中所提出的立体变换模块（STM）编码了双目图像之间的关系和相关性。同时，对双目图像中的左右图像同时进行除雾是互利的，这比仅对左图像除雾要好。最后，作者将Foggy Cityscapes数据集扩展为具有双目有雾图像对的Stereo Foggy Cityscapes数据集。实验结果表明，在主观和客观评估中，BidNet均明显优于最新的除雾方法。
对于基于深度学习的双目图像去雾任务，没有包含双目雾图像的特定数据集。通过将雾添加到Cityscapes数据集中来创建Foggy Cityscapes数据集。本文将Foggy Cityscapes数据集扩展到Stereo Foggy Cityscapes数据集，该数据集由双目有雾图像对组成。关键是利用视差和给定的摄像机参数来计算摄像机与左场景之间的距离以及摄像机与右场景之间的距离。在这个过程中，应用了complete pipeline ，它使用不完整的深度信息将合成雾添加到真实，晴朗的天气图像中。
主要贡献：
（1）提出了一种新颖的双目图像去雾框架，称为BidNet，该框架能够利用左右图像之间的相关性对双目图像对进行除雾，而无需估计视差，它可以避免由不精确的视差估计引起的大误差。
（2）受non-local网络的启发，提出了一种简单而有效的机制并将其嵌入BidNet中，通过该机制将右图像特征图中的有用信息引入左图像特征图中。具体是通过计算立体horizontal non-local相关矩阵并将该矩阵与右图像的特征图相乘来实现的。嵌入的过程是有效的，因为相关矩阵的大小比传统的non-local网络小一阶。类似地，可以将左图像的特征图的有用信息嵌入到右图像的有用信息中。
（3）在输入左图像和右图像的情况下，只能使用上述除雾框架对左图像或右图像进行除雾。但是发现，通过同时考虑左右图像来制定除雾损失函数，可以同时去除左右雾度图像的雾度，从而产生更好的除雾效果。
（4）扩展了Cityscapes数据集以适应去雾任务。实验结果表明，在主观评估和客观评估方面，BidNet均明显优于最新的除雾方法。