Depthwise Separable Convolution

Depthwise Separable Convolution于2017年在《MobileNets: Efficient Convolutional Neural Networks for Mobile VisionApplications》提出。
标准卷积操作所使用卷积核与输入特征具有相同的通道数，卷积核个数即为输出特征的通道数。
Depthwise Separable Convolution将卷积操作分成2步：Depthwise Convolution和Pointwise Convolution。

Depthwise Convolution

如上图所示：Depthwise Convolution使用和传统卷积核一样尺寸的的卷积核，但是通道数仅为1。通过使用与输入特征通道数一样个数的卷积核分别对每个通道的特征进行卷积操作，得到和输入特征通道数一样的输出特征。

Pointwise Convolution

如上图所示：Pointwie Convolution使用尺寸为1*1，通道数与输入特征一样的卷积核。使用与目标输出特征通道数一样个数的卷积核即可得到目标输出特征。

网络结构

上图给出标准卷积与Depthwise Separable convolution在网络中的应用对比。