sklearn构建K-means聚类模型以及使用FMI,轮廓系数法,Calinski-Harabasz评价模型

聚类分析是在没给定划分类别的情况下,根据数据相似度进行样本划分的一种方法,属于非监督学习。

(1)使用sklearn估计器构建聚类模型

聚类算法实现需要估计器,sklearn估计器有fit和predict两个方法:

fit: 主要用于训练算法,该方法可接收用于有监督学习的训练集及其标签两个参数,也可接收无监督学习的数据。

predict:用于有监督学习的测试集标签,也可用于划分传入数据的类别。

以iris数据为例,构建K-means聚类模型

from sklearn.datasets import load_iris          #从datasets加载iris数据     
from sklearn.preprocessing import MinMaxScaler  #从preprocessing加载离差标准化模块
from sklearn.cluster import KMeans              #从cluster加载k均值聚类模块

iris=load_iris()                                
iris_data=iris['data']                          #提取数据集的特征
iris_target=iris['target']                      #提取数据集的标签
iris_names=iris['feature_names']                #提取特征名

scale=MinMaxScaler().fit(iris_data)             #训练规则
iris_dataScale=scale.transform(iris_data)       #应用规则
kmeans=KMeans(n_clusters=3,random_state=123).fit(iris_dataScale) #构建并训练模型
print('构建K-means模型为:',kmeans)

(2)聚类后通过可视化查看聚类效果,通过sklearn中的TSNE函数实现可视化

import pandas as pd
from sklearn.manifold import TSNE
import matplotlib.pyplot as plt

##使用TSNE进行数据降维,降成两维
tsne = TSNE(n_components=2,init='random',random_state=177).fit(iris_data)
df=pd.DataFrame(tsne.embedding_)       ##将原始数据转换为DataFrame
df['labels'] = kmeans.labels_          ##将聚类结果存储进df数据表

##提取不同标签的数据
df1 = df[df['labels']==0]
df2 = df[df['labels']==1] 
df3 = df[df['labels']==2] 

## 绘制图形
fig = plt.figure(figsize=(9,6)) ##设定空白画布,并制定大小
##用不同的颜色表示不同数据
plt.plot(df1[0],df1[1],'bo',df2[0],df2[1],'r*',
    df3[0],df3[1],'gD')
plt.savefig('../tmp/聚类结果.png') 
plt.show() ##显示图片

sklearn构建K-means聚类模型以及使用FMI,轮廓系数法,Calinski-Harabasz评价模型

(3)FMI评价法判定K-Means聚类模型(需要真实值)

from sklearn.metrics import fowlkes_mallows_score
for i in range(2,7):
    ##构建并训练模型
    kmeans = KMeans(n_clusters = i,random_state=123).fit(iris_data)
    score = fowlkes_mallows_score(iris_target,kmeans.labels_)
    print('iris数据聚%d类FMI评价分值为:%f' %(i,score))

结果如下:

iris数据聚2类FMI评价分值为:0.750473
iris数据聚3类FMI评价分值为:0.820808
iris数据聚4类FMI评价分值为:0.753970
iris数据聚5类FMI评价分值为:0.725483
iris数据聚6类FMI评价分值为:0.600691

(4)使用轮廓系数法评价(不需要真实值对比)

from sklearn.metrics import silhouette_score
import matplotlib.pyplot as plt
silhouettteScore = []
for i in range(2,15):
    ##构建并训练模型
    kmeans = KMeans(n_clusters = i,random_state=123).fit(iris_data)
    score = silhouette_score(iris_data,kmeans.labels_)
    silhouettteScore.append(score)
plt.figure(figsize=(10,6))
plt.plot(range(2,15),silhouettteScore,linewidth=1.5, linestyle="-")
plt.show()

sklearn构建K-means聚类模型以及使用FMI,轮廓系数法,Calinski-Harabasz评价模型

(5)使用Calinski-Harabasz指数评价kmeans聚类模型(不需要真实值对比)

from sklearn.metrics import calinski_harabaz_score
for i in range(2,7):
    ##构建并训练模型
    kmeans = KMeans(n_clusters = i,random_state=123).fit(iris_data)
    score = calinski_harabaz_score(iris_data,kmeans.labels_)
    print('iris数据聚%d类calinski_harabaz指数为:%f'%(i,score))

结果如下:

iris数据聚2类calinski_harabaz指数为:513.303843
iris数据聚3类calinski_harabaz指数为:560.399924
iris数据聚4类calinski_harabaz指数为:529.120719
iris数据聚5类calinski_harabaz指数为:494.094382
iris数据聚6类calinski_harabaz指数为:474.753604