【面试必备】SVM优点解析

支持向量机(SVM)的优点

(1)对偶算法(Dual Algorithm)
应用拉格朗日对偶性,通过求解对偶问题(Dual Problem)得到原始问题(Primal Problem)的最优解。

优点:因为在实际computer计算时采用对偶算法(所以首先要求出与样本数相同个数的拉格朗日乘子,而由于乘子为零的项对模型无任何影响,只有乘子不为零的项即支持向量才会对最后模型的表达式产生影响),故SVM的计算复杂度与样本个数有关,与特征维度无关。

(2)合页损失函数(Hinge Loss)
支持向量机(SVM)的基础是感知机(Perceptron),不同之处在于:感知机的损失函数是所有误分类点到分离超平面的函数距离之和;而支持向量机的损失函数是合页损失函数。
·
感知机的损失函数:
【面试必备】SVM优点解析
SVM的损失函数:
【面试必备】SVM优点解析
合页损失函数的图形:
【面试必备】SVM优点解析
优点:可以得到特征空间上唯一间隔最大的分类器。

(3)核函数(Kernel Function)