小赵带你读论文系列-GMTL: A GART Based Multi-task Learning Model for Multi-Social-Temporal Prediction in Onlin

先验知识：GAT,RNN

解决的问题：1. 预测social time series（即玩家在未来的某些属性的值，例如在线时长，虚拟货币） 2. 预测temperal link weights（即玩家在未来和其他Players之间的某些关系-》预测玩家之间的link weights，e.g 交易，聊天，），这对识别异常点还有预测玩家潜力，做推荐等等工作都有很大的好处。

使用的数据：过去M时间段的数据（包括过去的网络结构，和玩家的属性值），4种网络结构，10种玩家属性来预测解决问题中的数据。

创新点1：构造Enclosing Subgraph Construction，作者使用node的neighbours nodes（红色）的属性预测其属性（绿色）以及被预测边的edge neibours（红色）预测边的weights（绿色）。这种预测办法可以有效的构造出训练和预测数据！！（随机sample一些节点作为target就行，然后使用其neighbor去预测它）

这公式我一开始也没看明白，后来发现L就是预测节点的Label，A就是属性值，W就是网络连接，X是最后三者的concat作为最后的输入。

创新点2：对GAT的改进（MGAT），给边增加了权重以及在图种设置了多种类型的边。使用了一个四维向量来表示，t就是不同的type。然后使用一个共享权重的Wg，以及self attention机制来计算first-order neighbor对于current node的影响（即a）。最后使用一个线性层，将不同type也进行线性组合得到该节点最终的特征表示，如公式3（这点是最重要的，这里有效的将多个图化成了embedding，而且在这些图之间还有Attention）

创新点3：使用GART，因为创新点2种描述的是一个时间节点的输入，但实际使用中是使用以往的多天数据进行输入，作者便叠加了一个Bi-LSTM（下图红框），然后使用一个Attention得到最终的输出。

创新点4：Multi-task Learning，每当得到high-level的embedding的时候，就可以考虑用来同时做一些预测。作者就做了两个prediction（在解决的问题中已说明）。但我暂时还没看懂那个ESC(A，B)是什么含义，有看懂的大佬不妨指点一下。

创新点5：这篇文章的后期分析十分精彩，尤其是其商业价值的部分，值得借鉴。