机器学习(统计学习方法)7 【感知机学习算法】

Day 7

2.3感知机学习算法

   感知机学习的算法就是将问题转化为求解损失函数的最小化问题,最优化的方法是随机梯度下降法。感知机的算法包括:原始形式与对偶形式,并且在线性可分的情况下具有收敛性。

原始形式

对于一组训练数集,求解参数w,b,使其为求解损失函数极小化问题的解
机器学习(统计学习方法)7 【感知机学习算法】

M为误分类点的集合。【argminf(x)为当f(x)最小时,其x的集合】

感知机学习使误分类驱动的,具体采用梯度下降方法,,选取一个超平面,随机选取一个误分类点使其梯度下降。机器学习(统计学习方法)7 【感知机学习算法】

感知机学习的原始形式:

机器学习(统计学习方法)7 【感知机学习算法】

其实际意义是:当一个实例点被误分类的时候,通过调整超平面的权重,使其向误分类点移动,并跃过去,使其逐渐划分到正确分类点上面去。

机器学习(统计学习方法)7 【感知机学习算法】机器学习(统计学习方法)7 【感知机学习算法】机器学习(统计学习方法)7 【感知机学习算法】机器学习(统计学习方法)7 【感知机学习算法】