GNN && NLP 视频笔记：
1.nlp相关论文：
2.以往GNN存在的问题：
3.Graph-Bert：
第一步：
将原始图数据通过采样的方式，分解成一些子图。
第二步：
将每个结点向量化。
第三步：
transformer的编码器。
第四步：
transformer的解码器。
第一步：
选择中心结点，根据结点见得关联关系，选择可能性最大的K个结点作为邻接结点。
注意选出的子图中，点之间线是使用虚线。这是由于其本身可能不是相连的。
第二步：
1.获取结点的原始特征向量。如glove
2.每个节点在整张图中的唯一表示。每个节点在整张图中的位置。
3.给出结点的相对位置向量，由相对中心结点的位置决定
4.综合2, 3步求出某一节点的最终的向量。 其中，vj表示中心结点，vi表示vj跳步到达的结点。
将上述4点，每一步的结果相加得到某一个结点最终的向量。
4.第三步：
我们观察到公式发生了变化。前面多了一个矩阵，
原文说 让矩阵学习到子图的一个上下文的信息。？？？？？？？