KNN算法(K-近邻算法)

KNN算法核心思想:

根据你的邻居来推断你的类别。

KNN算法定义:

如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别,则该样本也属于这个类别

算法的原理:

如果k =1,则容易受到异常点的影响

计算距离确定谁是邻居(距离公式):欧式距离,曼哈顿距离(绝对值距离),明可夫斯基距离

          欧式距离:

 

     KNN算法(K-近邻算法)

电影类型分析

  KNN算法(K-近邻算法)

其中?电影的类别未知,可以使用k近邻算法

  KNN算法(K-近邻算法)

当k = 1时,未知电影分类为爱情片。

当k = 2时,未知电影分类为爱情片。

.....

当k = 6时,未知电影分类无法确定。

总结:当k值取的过小,容易受异常值影响,过大则容易受到样本不均衡的影响