李宏毅深度学习课程笔记 -卷积神经网络

1、卷积神经网络特适合image处理,其设计理念:

现象1:

李宏毅深度学习课程笔记 -卷积神经网络

现象2:

李宏毅深度学习课程笔记 -卷积神经网络

现象3:

李宏毅深度学习课程笔记 -卷积神经网络

总结summary:

李宏毅深度学习课程笔记 -卷积神经网络

(1)对于图像中的patterns(比如猫的耳朵,嘴巴等),通常比整张图像小很多。神经网络的每一个neuron,相当于一个basic classifier,只对其识别的pattern**。故设计卷积神经网络处理图像时,设计每一层卷积包含多个卷积核filter,每一个filter负责识别一个pattern。其实卷积层的每一个filter相当于full connect layer的一个neuron;

(2)相同的pattern在不同的图像中出现的位置不一样,但本质上他们是同样的pattern,可以使用相同的filter进行检测,这就产生了卷积神经网络设计中的卷积核权值共享;

(3)下采样操作并不会改变object,故引入pooling来减少计算量。

2、filter的理解:

李宏毅深度学习课程笔记 -卷积神经网络

李宏毅深度学习课程笔记 -卷积神经网络

上面filter的斜对角是1,1,1, 它的工作就是就是检测在图像中有没有从左上到右下是1,1,1的连续值,由内积结果可以知道,左上角和左下角出现最大值,那么在图像的左上角和左下角出现从左上到右下是1,1,1的连续值。