深度学习---稠密连接网络(DenseNet)
DenseNet和ResNet的主要区别是DenseNet里面模块B的输出不是像ResNet那样和模块A的输出相加,而是在通道维上连结。这样模块A的输出可以直接传入模块B后面的层。
DenseNet的主要构建模块是稠密层和过渡层。前者定义了输入和输出是如何连结的,后者则用来控制通道数,使之不过大。
由于每个稠密层都会带来通道数的增加,使用过多则会带来过于复杂的模型。过渡层用来控制模型复杂度。它通过1x1卷积层来减少通道数,并使用步幅为2的平均池化层减半高和宽,从而进一步降低模型复杂度。