【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

 

1、决策树

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

怎么发现最优的树?

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

 

2、贪婪法

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

(1)先建一棵空树

(2)选择一个特征分割数据:

        对分割的每一个分支:

        (3)如果没有其他的可做,预测

        (4)否则,进行步骤(2),继续迭代分割

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

 

 

3、如何确定最优分割特征?

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

选择分类误差最小的特征作为此次分割特征:

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

 

4、树分割停止条件

(1)节点的所有数据有相同的y值

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

(2)所有的特征有已经用来分割了

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

 

5、多类分类

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

 

6、真值特征的处理

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

选择分类误差最小的阈值作为阈值:

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

 

7、决策树和逻辑回归对比

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

 

8、测试

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree

【机器学习课程-华盛顿大学】:3 分类 3.3 决策树decision tree