决策树剪枝

决策树的生成实际上就是利用数据来构造模型,这个模型对于training data的判断正确率相当高,但是对于位置模型就很差了,这样的模型是过拟合状态!必须要经过全局最优的剪枝来进行优化。实际上剪枝就是策略和优化过程!(S&A)
损失函数:
决策树剪枝

决策树剪枝
决策树剪枝
实际上剪枝可以看成结构风险最小化