Active Learning 主动学习

Active Learning 主动学习

2015年09月30日 14:49:29 qrlhl 阅读数 21374 文章标签： 算法机器学习 更多

分类专栏： 机器学习

 

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/qrlhl/article/details/48828589

最近读了一篇paper，题目是An MRF Model-Based Active Learning Framework for the Spectral-Spatial Classification of Hyperspectral Imagery。（题目这么长我也不想的......）这篇文章主要说了马尔科夫随机场还有active learning (AL)结合的问题。刚开始让给我学习AL的时候我是拒绝的，因为网上根本很少资料好吗？！居然还有一大堆关于如何教育孩子的相关结果......所以我就决定为我们机器学习领域的AL正名，它可不是教育孩子的方法哦~~

PS:如果你把机器学习算法看作自己的孩子，上面那句话当我没说....另外，请收下我的膝盖...

絮絮叨叨一大堆，让我们进入正题吧~~关于AL的定义，似乎一直没有很确切的定论，那么首先让我们看看维基百科是怎么说的：

主动学习是半监督机器学习的一个特例，在主动学习中，一个学习算法可以交互式的询问用户（或其他信息源）来获得在新的数据点所期望的输出。

Active learning is a special case of semi-supervised machine learning  in which  a learning  algorithm  is able  to interactively  query the  user (or some other information source)  to obtain  the  desired  outputs at new data points. 

不知道大家感觉怎么样，反正我感觉这个解释很差强人意。根据维基百科的描述，主动学习算法的一部分训练样本的标签是在算法运行的过程中主动询问用户才得到的。那么我认为这并不算是一种半监督的学习方法。众所周知，半监督学习方法是在不需要人工干预的条件下由算法自行完成对无标记数据的利用，这明显与上面的说明相悖。

鉴于维基百科上给出的定义让我很不满意（画外音：卧槽，你以为你是谁啊！！！），所以我根据论文中对主动学习的描述以及自身的理解从AL适用范围的角度做出下面的定义：

在某些情况下，没有类标签的数据相当丰富而有类标签的数据相当稀少，并且人工对数据进行标记的成本又相当高昂。在这种情况下，我们可以让学习算法主动地提出要对哪些数据进行标注，之后我们要将这些数据送到砖家那里让他们进行标注，再将这些数据加入到训练样本集中对算法进行训练。这一过程叫做主动学习。

简直通俗易懂有木有~~从我给出的定义上我们可以看出来，主动学习最重要的部分就是选择策略，即选择哪些数据提出标注请求。当然，通常我们对这种策略的要求是迭代次数尽量少并且结果尽量更加精确。

另外，由于是学习算法自己对样本提出要求，那么用来训练的样本数量一般是远远低于普通的学习方法的。这个道理很好理解啊，因为只有算法自己最了解自己吗~~就像女人最了解女人一样，所以女生的心思不要去猜，猜也猜不到，说不定还会付出比她真正需要的多很多倍的努力，结果却不一定很完美，这真是个悲伤的故事~~跑题了，跑题了....sorry!!!

下面我们就来建立以下主动学习（AL）的模型吧~~

首先当然是notation啦~我们定义为最开始的训练样本集，当然，这里面的数据都是有标记的。定义为未被标记的候选集，简称备胎。OK,就这两个数据集就可以说明问题了。

我们不妨形象的比喻一下，从前有个白富美叫做学习算法，她的目标就是经历众多的男人从而完善自身。在她出生时，她的父亲算法工程师给她安排了一个男人列表，也就是。可惜，在睡遍，哦不，是经历遍里面的男人后，她还是觉得自己不够完美，用数据量化一下就是她的全局精确度（OA）不够高。既然这样，学习算法小姐就开始在备胎里也就是里寻找下一个男人。一旦有男人满足了学习算法小姐的某种需求（也就是我们后面要讲到的选择策略），那么这个男人就会被挑出来，送往专家那里打上诸如“高富帅”，“欧巴”等等的标签中的一种，然后被收入后宫中。然后这个循环就会这样继续下去，直到学习算法小姐的全局精确度（OA）达到了要求，她就变成了女神喽~~（说起来真是个悲伤的故事...）

从上面的故事可以看出，主动学习这个过程最重要的就是两点：一、由学习算法主动提出对未标记的样本的标记需求；二、选择策略相当重要。另外，我从论文中的数据看出，主动学习过程的收敛也是很快的。

下面我想说说选择策略的问题，论文中提到了三种策略，分别是RS，LC和BT。为了一般化，我在这里只对多分类（也就是有很多种类标签）的情况进行说明。

RS：

即random selected，随机选择。顾名思义，这种方法是在中随机选择未标记的数据。

LC：

，策略公式如上所示。其中y为类标签，m为一实数，是标签的种类。这个式子的意思是寻找中，最难判别类别的数据，也就是说，对于这个，现有的分类器没有足够的自信心。这样的数据应该被人工标注，因为它的信息量很大。

BT：

，策略公式如上所示。其中m+指的是使式子前半部分取最大值的m，后半部分取最大值时，要去除掉这个m。我们不妨设使前半部分最优的m值为m1，后半部分为m2。如果要达到最优化的目标，那这式子前后两部分的结果应该十分相近，也就说明了这个样点很难区分到底是m1和m2哪一类的。这样的数据应该被人工标注，因为它的信息量很大。

选择策略也说完了，关于选择策略可能有些地方说的不清楚，如果大家不满意的话，可以直接去看我最开始提到的那篇论文，说得更加明白。