DRCN论文笔记
DRCN论文笔记
DRCN将递归神经网络(Recursive Neural Network, RNN)用于图像超分辨率(Super Resolution, SR)问题中,在增加网络深度的同时没有引入过量参数,即提高网络性能的同时没有增加训练时间。针对深度RNN由于梯度消失/爆炸而不好训练的问题,DRCN提出了recursive-supervision和skip-connection来解决。
文中还提出,RNN更适用于有时序连贯性的数据,因此不太适用于单张静态图片。(视频超分辨率或许会有好的表现)
网络结构
Basic model
基本模型如上图所示,由embedding, inference和reconstruction三个网络组成。embedding net用于特征提取,以LR图像为输入,将其放大至目标分辨率(与SRCNN,VDSR相同),输出特征图,inference net根据特征图完成超分辨率任务,最后由reconstruction net完成重建,生成HR图像。
Advanced model
基于recursive-supervision和skip-connection的改进模型如上图。通过对所有递归模块的监督,缓解梯度消失/爆炸问题。具体做法是使用重建网络对每一个递归模块进行重建,最后将得到的结果加权求和来输出HR。此外,作者通过在输入和重建网络之间添加skip-connection,使得网络整体更加关注图像细节,而不是LR与HR之间的相似部分。
损失函数
每一个递归模块的MSE函数。