自主学习(active learning)

我是一名小小白~~~一边学习一边总结~~~一边更新~~~

是什么?

自主学习,可以理解为询问式学习。

通常监督学习都喜欢丢一大堆的数据,然后通过对所有数据进行处理得出结果。往往数据量越大,得到的结果可能会相对好一点。而自主学习的特点在于他可以自行选择有用数据去进行学习。这样我们可以用更少的训练样本去训练出更好的分类器。

 

注:监督学习是把样本都标注好;非监督学习是没有把样本标注;而自主学习呢,他是把一小部分样本标注了,剩下的样本没有标注。

 

为什么?

理由很简单,可以大大减少很多人为的工作。例如:语音识别中,要准确地标注言语表达,这工作量需求是十分大的;学习分类文档(例如:,文章或网页)或任何其他类型的媒体(例如:图像、音频和视频文件要求用户将每个文档或媒体文件标记为特定的标签,如“相关”或“不相关”等等。

自主学习是希望通过询问以未标记的实例的形式来克服标签瓶颈。通过这种方式,主动学习者的目标是在尽可能少的标记实例的情况下达到较高的准确性,从而最大限度地降低获得标记数据的成本。

 

怎么做?

 自主学习(active learning)

 

来到怎么这个环节。

第一步:我们先把一小部分数据进行标注,得到labeled training set L ;

第二步:通过已标注的样本,建立一个初始的分类器模型;

第三步:监督者(oracle)根据 查询标准Q,在 unlabeled pool中 选取一些未标注的样本进行标注;

第四步:把标注后的样本重新加入L中,并回到第二步,直至达到停止标准。

主动学习算法是一个迭代的过程,分类器使用迭代时反馈的样本进行训练,不断提升分类效率。


文献:Active Learning Literature SurveyBurr SettlesComputer Sciences Technical Report 1648University of Wisconsin–MadisonUpdated on: January 26, 2010