Datawhale 零基础⼊⻔CV-Task5 模型集成

俗话说，三个臭皮匠赛过诸葛亮，在机器学习、深度学习领域集中多个模型往往可以比单个模型更优。如何将优秀的模型集中起来，得到更优的模型，就是模型集成所要研究的内容。

1.机器学习的集成学习方法

在机器学习中的集成学习可以在一定程度上提高预测精度，常见的集成学习方法有Stacking，Bagging和Boosting，同时这些集成学习方法与具体验证集划分联系紧密。
由于深度学习模型一般需要较长的训练周期，如果硬件设备不允许建议选取留出法，如果需要追求精度可以使用交叉验证的方法。
下面假设构建了10折交叉验证，训练得到10个CNN模型。

2.深度学习的集成学习方法

2.1 Dropout

Dropout可以作为训练深度神经网络的一种技巧。在每个训练批次中，通过随机让一部分的节点停止工作。同时在预测的过程中让所有的节点都起作用。

Dropout经常出现在现有的CNN网络中，可以有效的缓解模型过拟合的情况，也可以在预测时增加模型的精度。

2.2 TTA

测试集数据扩增（TTA）也是常用的集成学习技巧，数据扩增不仅可以在训练时候用，而且可以同样在预测时进行数据扩增，对同一个样本预测三次，然后对三次结果进行平均。

2.3 Snapshot

如果我们的算力够强，可以像之前说的训练10个CNN模型，然后取其平均。但是如果我们只训练了一个CNN模型，可以做模型集成吗？
在论文Snapshot Ensembles中，作者提出使用cyclical learning rate进行训练模型，并保存精度比较好的一些checkpoint，最后将多个checkpoint进行模型集成。

由于在cyclical learning rate中学习率的变化有周期性变大和减少的行为，因此CNN模型很有可能在跳出局部最优进入另一个局部最优。在Snapshot论文中作者通过使用表明，此种方法可以在一定程度上提高模型精度，但需要更长的训练时间。