周志华西瓜书-第六天阅读-从核函数谈SVM

什么是SVM?

SVM(Support Vector Machine),译为支持向量机。其基本思路是从训练集的样本空间中找到一个超平面,将不同的类别进行划分,如下图:
周志华西瓜书-第六天阅读-从核函数谈SVM

什么是核函数

由于SVM的核心在于找到一个能够用来划分的超平面,所以我们需要对数据进行分割。面对线性可分的数据时,可以用上图的方法找到一个合适的超平面来划分。但在现实情况下,原始样本空间也许并不存在一个能正确划分样本的超平面。对于这样的情况,我们需要将样本从原始空间映射到一个更高维的特征空间,从而使样本在这个空间上线性可分。并且根据已经被证明的定理我们知道:如果原始
空间是有限维, 即属性数有限,那么一定存在一个高维特征空间使样本可分。
由此我们引出核函数这个概念,即通过核函数来将样本映射到更高维的的线性可分空间