Introduction

这篇文章的主要思想，是基于半监督学习的两个基本假设：

• （1）局部一致性：距离比较近的数据，通常有相同的标签；
• （2）全局一致性：处在相似的上下文中的数据，通常有相同的标签。如下图所示，该图卷积网络包括两个通路，$ConvA$ConvA嵌入了半监督分类局部一致性的信息，是一个传统的图卷积过程；$ConvP$ConvP 嵌入了半监督分类全局一致性的信息，是作者的一个创新点。在两个通路后，作者设计了一个新的$Loss$Loss 函数，可以将局部一致性和全局一致性完美结合，取得一个好的实验效果。
• 

Local Consistency Convolution:$ConvA$ConvA

$convA$convA 的计算公式如下：

• $\tilde{A} = A + I_N$A~=A+IN​ 是无向图$G$G的自环邻接矩阵。
• $I_N$IN​是单位矩阵。
• $\tilde{D}_{ii} = \sum_j \tilde{A}_{ij}$D~ii​=∑j​A~ij​ 是$\tilde{A}$A~ 的度矩阵。
• $W^{(i)}$W(i)是可训练的权重矩阵，即网络的参数。
• $\tilde{D}^{-\frac{1}{2}}\tilde{A}\tilde{D}^{-\frac{1}{2}}$D~−21​A~D~−21​是对邻接矩阵$A$A的归一化
• $\sigma(\cdot)$σ(⋅)是**函数，比如$ReLU$ReLU。
• $Z^{(i)} \in \mathbb{R}^{N \times D}$Z(i)∈RN×D是第$i$i层的**矩阵，即网络的输出。
• $Z^{(0)}=X$Z(0)=X第一层为输入。

对邻接矩阵进行归一化处理，可以很好的在每一层中进行$1-hop\ diffusion\ process$1−hop diffusion process。但是，只使用局部一致性会使得一部分并不属于一类的点距离很近，以至于被错误的分为一类。

举例
按局部信息进行计算，$8$8与$30$30距离很近，但实际标签一个为红一个为绿，标签不同。因此为解决这个问题，引入全局一致性信息，引入了$ConvP$ConvP

Global Consistency Convolution:$ConvP$ConvP

作者使用随机游走的策略，生成频率矩阵，进而生成$PPMI$PPMI矩阵。$PPMI$PPMI矩阵可以很好的嵌入语义信息，利用数据的全局一致性。

获得频率矩阵$F$F:

• （1）确定节点的随机游走长度$\gamma$γ，采样次数$w$w，初始化频率矩阵$F$F值为$0$0。
• （2）以节点$x_i$xi​为起点，开始以$0$0为步长随机游走，得到所有可能的情况，表示为点对集合$S=\{{(x_n,x_m)}\}$S={(xn​,xm​)}，接着以等式$（8）$（8）作为概率采样$w$w次，得到$w$w对点对。
• （3）对于点对$(x_n,x_m)$(xn​,xm​)，在频率矩阵中对应位置$F_{n,m},F_{m,n}​$Fn,m​,Fm,n​​ 对应加$1$1。
• （4）将游走步长$1$1逐渐变化到$\gamma$γ，循环$(2)(3)$(2)(3)步骤。
• （5）对于所有的节点，执行$(2)(3)(4)$(2)(3)(4)步骤得到频率矩阵$F$F。
  伪代码如下：
  
  马尔可夫链描述了随机游走所访问的节点的顺序，通常被称为随机游走。每个节点的转移概率可以由等式$（8）$（8）计算得到：
  
  构建PPMI矩阵P：
  
  
• $ConvP$ConvP的热度图想对于$ConvA$ConvA有所不同
• 通过$t-stochastic\ neighbor\ embeddings(SNEs)$t−stochastic neighbor embeddings(SNEs)对结果进行比较，$8$8与$30$30距离有所增大
  PPMI介绍
  
  
  
• 除了这个以外，我们还可以在加入拉普拉斯平滑
  
  

整合局部和全局一致性

$DualGCN$DualGCN伪代码如下：

DGCN：Dual Graph Convolutional Networks for Graph-Based Semi-Supervised Classification
https://github.com/ZhuangCY/DGCN