李航统计学习方法--感知机

感知机的思想很简单:根据输入数据寻找一个超平面来将数据分开。感知机是神经网络和支持向量机的基础(如果知道神经网络或支持向量机,很容易看出)。感知机处理的数据集必须是线性可分得,神经网络和支持向量机在一些机制下就可以处理复杂的数据。

不讲理论了,直接看书:
李航统计学习方法--感知机

这边简单介绍了一下超平面。下面主要将如何表示感知机的误差(如果不懂点到平面距离自行百度),文中涉及的公式推到都比较简单,耐性看一下就可以理解

李航统计学习方法--感知机

下面就是如何跟新w和b了,这边的BP神经网络的误差跟新差不多,个人觉得还要容易理解一点。毕竟感知机是神经网络和SVM的基础
李航统计学习方法--感知机

好了,基本的感知机就讲完了。如何像进一步了解可以去看书,书上有一道习题,看一遍、算一遍就懂了,书中还讲了感知机的一个对偶形式,算法如下:
李航统计学习方法--感知机
好多线性代数的概念忘记了,百度一下才知道Gram矩阵怎么求:
李航统计学习方法--感知机
理论跟容易理解,就是选取一个样本,跟新一下w和b,具体代码实现:给个链接(python):
http://blog.****.net/wds2006sdo/article/details/51923546