半监督学习——FixMatch: Simplifying Semi-Supervised Learning with Consistency and Confidence
论文:https://arxiv.org/abs/2001.07685
代码:https://github.com/google-research/fixmatch
1. 论文题目与摘要
FixMatch: Simplifying Semi-Supervised Learning with Consistency and Confidence
摘要:半监督学习有效的利用没有标注的数据,从而提高模型的精度。这篇论文,我们将有效的结合两种常见的半监督学习方法:一致性正规化技术和伪标签技术。我们的算法叫做FixMatch,首先把没有标签的图片进行轻微的数据增强,用模型对怎强后的图片进行预测,从而生成为标签。对于每张没有标签的图片,当模型的预测得分高于一定的阈值时,伪标签才起作用。模型预测伪标签的同时,将同样的图片进行强烈的数据增强送入网络,计算损失。虽然方法看起来简单,但是FixMatch在从多的半监督学习方法中达到了最好的效果。仅用了250张标注数据,在CIFAR-10数据集上达到了94.93%的准确率;仅用了40张标注数据,在CIFAR-10数据集上达到了88.61%的准确率(每个类别只取了4张标注数据);因为作者做了很多消融实验,说明不同因素对半监督学习效果的影响,最终FixMatch这种半监督学习方法获得成功。我们的代码已经开源:https://github.com/google-research/fixmatch.
2. 算法主要流程