提升算法-boosting algorithm
WIKI
Boosting is a machine learning ensemble meta-algorithm for primarily reducing bias, and also variance[1] in supervised learning, and a family of machine learning algorithms that convert weak learners to strong ones.
-
在分类问题中,通过改变训练样本的权重,学习多个分类器,并将这些分类器线性组合,提高分类的性能。
提升方法AdaBoost算法
-
在每一轮如何改变训练数据的权值或概率分布?:提高那些被前一轮弱分类器错误分类样本的权值,而降低那些被正确分类样本的权值。这样一来,那些没有得到正确分类的数据,由于其权值的加大而受到后一轮的弱分类器的更大关注。于是,分类问题被一系列的弱分类问题“分而治之”。
-
如何将弱分类器组合成一个强分类器?:加权多数表决的方法。
AdaBoost算法