GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

来源:

B站。李宏毅老师助教。

1.Spatial-based GNN:

类似卷积神经网络利用卷积核提取特征的方式。
GNN:则是Aggregation,利用某一节点,以及该节点的邻居节点,计算下一层中该节点位置处的值。
如Layer i圈住的部分,进行一定的计算,得到的值就是Layer i+1中的h1 3的值。
Readout:则是将所有节点的信息融合,用一个东西来代表整张图。
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

2.模型1:NN4G(Neural Networks for Graph)

GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

输入第一层到模型第一层: 直接权重乘以值。
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频
模型第一层到模型第二层:
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频
得到Readout的方法:
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

3.

GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频
第一层是由输入层距离为1来计算。
第二层是由第一层距离为2来计算。
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频
H X 是第K层,第一行是第一个结点的。第二层。。。
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频
得到每一个节点的feature:
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

4.

GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频
与3不同的是,
直接相加:
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

5.

GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频
给边具体的权重。
但是权重只是自己定义出来的。
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

6.

GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频
该模型的一个主要的特点就是:
使用了LSTM
但是LSTM是由顺序特点的。
因此:模型采取每次随机给一个结点的顺序,试图以这种方式让机器学会忽略结点的顺序。,

GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

7.

GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频
边的权重自己去学:
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频
具体方法是对邻居做attention:
attention的结果作为权重:
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

8.

GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频
理论证明哪些方式有用,哪些方式没有用。
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

第二節課

9.想法:

对输入的图进行傅里叶变换。
对给定的卷积核做傅里叶变化,
对两者得到的结果进行处理,然后做反的傅里叶变换,得到下一层的图。
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

。。。纯推导,放弃。

10.测试图神经网络模型的benchmark:

GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

1.根据图片判断是什么:
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频
2.预测溶解度:
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

3.
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

4.旅行者问题:
GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

11.模型结果:

GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频

12.NLP:

GNN图神经网络基础学习(Graph Neural Networks)视频笔记:李宏毅老师助教的视频