MobileNet浅析

论文链接：https://arxiv.org/pdf/1704.04861.pdf
MobileNet是一种通过逐层分离加深卷积深度减少深度神经网络参数的流式结构，文章中引入了两个全局超参有效地平衡了准确率和延时。

MobileNet将一个标准卷积层分解成两个卷积层(深度卷积和逐点卷积)，分别代表标准卷积的滤波器过滤和结合两个步骤。

网络结构变化前后如下图所示

举例：input layer输入为14×14×512 ,kernel大小为3×3×512×512,stride =1,padding 0
标准卷积模型参数量为3×3×512(深度)×512(卷积核个数)=2359296~2.36million
分离后的卷积模型参数量为3×3×512+1×1×512(深度)×512(卷积核个数)=266752~0.27million
标准卷积模型的加乘：3×3×512×14×14×512=462422016~46.2million
分离后的卷积模型加乘：3×3×512×14×14+1×1×512×512×14×14=52283392~52.3million

两个超参分别通过缩小输入channel(width multiplier)a和缩小输入图的大小(resolution multiplier)p来减少模型的参数