神经网络计算量FLOPs
FLOPS：floating point operations per second的缩写，意指每秒浮点运算次数，理解为计算速度。是一个衡量硬件性能的指标。
FLOPs：floating point operations的缩写（s表复数），意指浮点运算数，理解为计算量。可以用来衡量算法/模型的复杂度。
假设采用滑动窗实现卷积且忽略非线性计算开销，则卷积核的FLOPs为
其中，、
和
分别为输入特征图（就是输入图片了）的高度、宽度和通道数，
为核宽度，
为输出通道数。全连接层网络FLOPs为
其中，为输入维数，
为输出维数。
Ref: Molchanov P, Tyree S, Karras T, et al. Pruning Convolutional Neural Networks for Resource Efficient Inference[J]. 2016.