adaboost算法
之前做过人脸识别的应用,所以就想写写adaboost算法,也是一个复习和再熟悉的过程吧。
adaboost(Adaptive Boosting)是一个非常优雅的算法。Boosting算法是一类增强算法的总称。那这个adaptive体现在什么地方呢,下面会讲。之前在看其他的博客的时候,有的写的绕来绕去,罗列了一堆公式,但是很多人看来估计跟我一样,“你到底想说什么?”。另外的博客写来写去,关键的部分模糊带过,还是令很多人搞不清楚为什么要这么做,云里雾里,似懂非懂?我总结了一下,adaboost算法大概有几个地方需要明确,才能帮助很好的理解(我也是参考了很多地方,加上自己的一点理解)。(本文不做乱七八糟的推导,要不然会造成很多困扰,只做基本原理的说明,针对关键的点,写一写为什么就行了,这样适合于大多数人来读,大神请绕道,我也是个低阶的修士。)
(1)adaptive是什么意思
(2)弱分类器怎么训练的
(3)为什么在迭代的时候,被错误分类的样本点,在下次迭代的时候权重被提高
(4)为什么在最终的分类器中,误分率低的弱分类器权重大,误分率高的弱分类器权重小
1、合理性
Adaboost算法就是通过一堆弱分类器,经过训练,组成成一个强分类器。这一堆弱分类器中的每个分类器在分类的时候效果不理想,但是组成的强分类器能够几何这些弱分类器的优势和特点,使得最终的分类效果变得有效。