k-近邻(应用sklearn的莺尾花数据集)
kNN 的作用机制为 在目标周围选取最近k个点,这k个点哪种占比最大,就可以把这个目标分类到那个分类,即有分到相似属性多的类别。
该算法和回归,决策树不同之处是,回归和决策树是通过训练集确定参数,参数一旦确定直接就能拿来进行测试,而kNN不同,它的分类要凭借训练数据,或者说并没有训练这一过程。
#导入包
import pandas as pd
import numpy as np
from sklearn.datasets import load_iris #莺尾花数据集
from sklearn.neighbors import KNeighborsClassifier #knn算法
iris = load_iris()
X = iris.data
y = iris.target
feature_name = iris.feature_names
#看一下k为多少,准确率最高
for i in range(5,20):
knn = KNeighborsClassifier(n_neighbors=i, weights='uniform')
knn.fit(X, y)
print("准确率", knn.score(X, y))
15和16的准确率最高,选15
#创建knn
knn = KNeighborsClassifier(n_neighbors=15, weights='uniform')
#训练
knn.fit(X,y)
#预测
pred = knn.predict(X)
# 创建pandas dataframe
df = pd.DataFrame(X,columns=feature_name)
df['target'] = y
df['pred'] = pred
#保存
df.to_excel('iris.xlsx')