机器学习基础算法(决策树与随机森林)

第一部分 决策树

决策树的基础

信息熵

机器学习基础算法(决策树与随机森林)
信息熵表示信息的不确定性

条件熵

机器学习基础算法(决策树与随机森林)
机器学习基础算法(决策树与随机森林)
机器学习基础算法(决策树与随机森林)

决策树

决策树的示意图

机器学习基础算法(决策树与随机森林)

决策树是什么

机器学习基础算法(决策树与随机森林)

决策树的特点

机器学习基础算法(决策树与随机森林)

决策树学习的三种生成算法

ID3

机器学习基础算法(决策树与随机森林)

信息增益

机器学习基础算法(决策树与随机森林)

基本记号

机器学习基础算法(决策树与随机森林)

信息增益的计算方法

机器学习基础算法(决策树与随机森林)
机器学习基础算法(决策树与随机森林)

C4.5

机器学习基础算法(决策树与随机森林)

CART

机器学习基础算法(决策树与随机森林)
机器学习基础算法(决策树与随机森林)

第二部分 随机森林

Bagging策略

机器学习基础算法(决策树与随机森林)

OOB数据

机器学习基础算法(决策树与随机森林)

随机森林

机器学习基础算法(决策树与随机森林)