第二章-2.2线性分类学习机

如何构造线性分类学习机。

1,平分最近法。如下图所示:

第二章-2.2线性分类学习机

我们应该找到两类凸壳最近点,做垂直平分线即可获得。上例的最近点是c,d两点,可以通过求解一个最优化问题来解决。

已经训练集第二章-2.2线性分类学习机,其中,

第二章-2.2线性分类学习机

构造并求解最优化问题:

    第二章-2.2线性分类学习机

得到最优解集合,第二章-2.2线性分类学习机

计算最邻近点,第二章-2.2线性分类学习机

构造分化超平面,第二章-2.2线性分类学习机,其中,

第二章-2.2线性分类学习机

2,最大间隔法。如下图所示;

第二章-2.2线性分类学习机

要求最优的分类线,即求,间隔2/||w||的最大化,也即求1/2*||w||^2最小化,其最优化问题为:

    第二章-2.2线性分类学习机