卷积神经网络11(卷积神经网络高级加深)

多卷积核的使用
卷积神经网络11(卷积神经网络高级加深)
不同方式结束后,图像尺寸长宽一样
可以通过卷积或者padding

1 X 1 卷积作用?
单、多通道
卷积神经网络11(卷积神经网络高级加深)
信息融合
信息融合,不用别的信息做运算,仅仅对自身做运算。
卷积神经网络11(卷积神经网络高级加深)
卷积神经网络11(卷积神经网络高级加深)
池化分支

1 X 1分支
卷积神经网络11(卷积神经网络高级加深)

1 X 1 / 5 X 5分支
首先使用1 X 1,然后使用 5 X 5,然后再使用padding = 2,为了保证长宽不变
卷积神经网络11(卷积神经网络高级加深)

1 X 1 3 X 3 3 X 3分支
卷积神经网络11(卷积神经网络高级加深)
同理为了保证输出的图像尺寸可以对,卷积后还要使用padding进行还原

最后将处理好的分支,进行合并

卷积神经网络11(卷积神经网络高级加深)
卷积神经网络11(卷积神经网络高级加深)
卷积神经网络11(卷积神经网络高级加深)
卷积神经网络11(卷积神经网络高级加深)
卷积神经网络11(卷积神经网络高级加深)
卷积神经网络11(卷积神经网络高级加深)
可以看到并不是最大轮数的时候效果最好,所以需要看测试集中那个最大,然后记录下轮数,或者保留下这个时候的参数,这个时候泛华性效果最好。
卷积神经网络11(卷积神经网络高级加深)
梯度下降,离输入最近的地方也可以得到很好的训练。
卷积神经网络11(卷积神经网络高级加深)
这里需要在输出的长宽需要对应

ResidualBlock
卷积神经网络11(卷积神经网络高级加深)
增量式开发

卷积神经网络11(卷积神经网络高级加深)