卷积层(Convolution)是如何向后传播(Backpropagations)的呢
假设下图中Convolution代表卷积层,X代表卷积层的feature输入,F代表卷积核,O则代表卷积层的输出。
则向前传播计算过程如下,
向后传播怎么计算呢?
向后传播计算的是损失函数L对参数F的导数,可以通过下面公式计算,其中
∂
L
∂
O
\frac{\partial L}{\partial O}
∂O∂L是后面层传递回来的,这一层计算的是
∂
O
∂
F
\frac{\partial O}{\partial F}
∂F∂O,从上面的公式可以看到
∂
O
∂
F
\frac{\partial O}{\partial F}
∂F∂O就是输入的X,所以
∂
L
∂
F
\frac{\partial L}{\partial F}
∂F∂L的计算过程如下,
展开之后如下,