理论-AdaBoost(转载)

转自一位老师的博客,供学习使用。


AdaBoost是Boosting算法的一种,而Boosting算法都需要解决一些问题,这篇博客有解答:
1)如何计算学习误差率e?
2) 如何得到弱学习器权重系数α?
3)如何更新样本权重D?
4) 使用何种结合策略?

集成学习之AdaBoost算法
理论-AdaBoost(转载)
注意点:

  1. AdaBoost是加法模型,最终强分类器是若干个弱分类器加权平均得到的,但是每个分类器有权重,且根据每一个分类器的分类结果,样本有不断更新的权重!
  2. 可以用于分类问题,也可以用于回归问题;
  3. 理论上任何学习器都可以用与AdaBoost,但使用最广泛的是决策树和神经网络,对于决策树,AdaBoost分类使用CART分类树,AdaBoost回归使用CART回归树。