机器学习(统计学习方法)7 【感知机学习算法】
Day 7
2.3感知机学习算法
感知机学习的算法就是将问题转化为求解损失函数的最小化问题,最优化的方法是随机梯度下降法。感知机的算法包括:原始形式与对偶形式,并且在线性可分的情况下具有收敛性。
原始形式
对于一组训练数集,求解参数w,b,使其为求解损失函数极小化问题的解
M为误分类点的集合。【argminf(x)为当f(x)最小时,其x的集合】
感知机学习使误分类驱动的,具体采用梯度下降方法,,选取一个超平面,随机选取一个误分类点使其梯度下降。
感知机学习的原始形式:
其实际意义是:当一个实例点被误分类的时候,通过调整超平面的权重,使其向误分类点移动,并跃过去,使其逐渐划分到正确分类点上面去。