卷积神经网络关于参数量和计算量的探讨

卷积神经网络关于参数量和计算量的探讨

我们假设卷积核的大小是kxk,输入通道数是M,输出通道数是N,输出特征图大小是fxf,那么如上图所示,我用和输入通道数相同数量的卷积核去卷原始图像,会得到与原始图像输入通道数相同数量的像素值,将这些像素值加权求和得到输出的一个通道的一个像素值,输出通道有多少。

因此卷积和是一个三维的,输出通道有多少个,卷积核就有多少个,而每一个卷积核它的深度就与它要去卷的图像的输入通道数相同。

所以卷积的参数量就是kxk(每一个卷积核的在一个平面上的权重数)xM(每一个卷积核的权重数量)xM(有多少个这样的卷积核),所以是kxkxMxN。

而计算量就是kxkxMxNxfxf(因为输出通道中的每一个像素值就是一个卷积核的一次运算,而它的大小是fxf,也就是有fxf个)

 

池化的计算量:Batchsize x Cout x Wout x Hout x k x k

 

全连接的计算量:Cout x Cin x Batchsie