论文《Unsupervised Continual Learning And Self-Taught Associative Memory Hierarchies》解读

本论文提出了一个无监督的持续学习组件STAM(Self-Taught Associative Memory)
如下图：

上图中，$C_i$Ci​为所有聚类簇的集合。当一个图片$X_i$Xi​输入到这个结构中时，会被打碎成若干个重叠的可接受域(Receptive Fields,RFs)。需要注意的是，每一个STAM结构处理一个可接受域。这些可接受域经过函数$c(x_{i,m})=\argmin_{j=1...|C_i|} ||x_{i,m}-w_{i,j}||$c(xi,m​)=j=1...∣Ci​∣argmin​∣∣xi,m​−wi,j​∣∣的处理会将各个可接受域转为相应的聚类簇。上图中$c_i(x_{i,.m})$ci​(xi,.m​)意为第$i$i层的聚类簇中，与$x_{i,.m}$xi,.m​距离最近的聚类簇(欧氏距离)，而$x_{i,m}$xi,m​意为第$i$i层，第$m$m个可接受域的输入数据。然后将通过函数$c(·)$c(⋅)处理的的可接受域重组输出为处理后的图片输出为$Y_i$Yi​，$Y_i$Yi​虽然与$X_i$Xi​具有相同的特征维度，但是因为$X_i$Xi​的每一个可接受域做了分类处理，所以$Y_i$Yi​的实际特征维度可能小于$X_i$Xi​。此外，聚类簇的集合可能会更新。没当我们队$x_{i,m}$xi,m​进行分类时，若$x_{i,m}$xi,m​分类至第$i$i层，第$j$j个聚类簇$w_{i,j}$wi,j​，则聚类簇向量$w_{i,j}$wi,j​需要进行更新，公式为:
$w_{i,j}=\alpha x_{i,m}+(1-\alpha)w_{i,j} when c(x_{i,m})=j$wi,j​=αxi,m​+(1−α)wi,j​whenc(xi,m​)=j
此外，由于持续学习的不确定性，难免乎有新的聚类簇也会动态的生成，它会分成两个步骤判断是都要生成新的聚类簇。更新第$j$j的聚类簇对应的平均值和标准差。

对于输入的可接受域$x_{i,m}$xi,m​，如果其与离它最近的聚类簇$j$j，存在以下关系，则可以判定$x_{i,m}$xi,m​是一个新的类，以该可接受域初始化产生新的聚类簇，判别准则如下：

但是为了区分极端值与真正的新的类簇，我们可以再做一个判定。若$y_{i+1,m}$yi+1,m​是输出$Y_{i+1}$Yi+1​的一部分，其对应的是第$i$i层，第$m$m个STAM的输出，计算$c_i(y_{i+1,m})$ci​(yi+1,m​)，并根据上面的判别准则判定$y_{i+1,m}$yi+1,m​是否属于新的类簇，如果$y_{i+1,m}与x_{i,m}$yi+1,m​与xi,m​都是新的类簇，则生成新的聚类簇。如果$x_{i,m}是新类簇而$xi,m​是新类簇而y_{i+1,m}不是$，则不生产新的类簇。

当我们对输入的数据$x$x进行最终分类时，遵循以下步骤，这块不难理解就不做解释了：