机器学习算法02 - 决策树

决策树

ID3 & C4.5 & CART

机器学习算法02 - 决策树

机器学习算法02 - 决策树

机器学习基本算法之一的决策树的基本原理,其要点如下:

  • 决策树是包含根节点、内部节点和叶节点的树结构,通过判定不同属性的特征来解决分类问题;
  • 决策树的学习过程包括特征选择、决策树生成、决策树剪枝三个步骤;
  • 决策树生成的基础是特征选择,特征选择的指标包括信息增益、信息增益比和基尼系数;
  • 决策树的剪枝策略包括预剪枝和后剪枝。