机器学习（1.13）

机器学习-无监督学习

Machine Learning - Unsupervised Learning

• 定义
• 算法
• 小结

定义

无监督学习

顾名思义为不受监督的学习，一种自由的学习方式。即，如果所有的训练数据都有标签，则为监督学习。相反，如果所有的训练数据都没有标签，则为无监督学习，也就是聚类（clustering）
监督学习（Supervised Learning）下的数据集：
(x(1),y(1)),(x(2),y(2))$(x^{(1)},y^{(1)}),(x^{(2)},y^{(2)})$
无监督学习（Unsupervised Learning）下的数据集：
(x(1)),(x(2))$(x^{(1)}),(x^{(2)})$

聚类

在有监督学习中，我们把离散样本进行分类的过程称为分类（Classification），把连续样本进行预测的过程称为回归（Regression），而在无监督学习中，我们将样本分类的过程称之为聚类（Clustering）。
在聚类中，我们将样本所在的集合称之为簇（Cluster）

算法

• EM算法
• K均值
• 高斯混合模型（GMM）
• 主成分分析（PCA）
• 多维尺度分析（MDS）
• 受限玻尔兹曼机

小结

注：图中的逻辑回归应该属于监督学习中的分类模型

参考博文：
参考gitbooks