赞
踩
图的属性: 结点、边、全局属性
图的属性可由 Embedding 向量表示
Of course, in practice, this is not usually how text and images are encoded: these graph representations are redundant since all images and all text will have very regular structures. For instance, images have a banded structure in their adjacency matrix because all nodes (pixels) are connected in a grid. The adjacency matrix for text is just a diagonal line, because each word only connects to the prior word, and to the next one.
Molecules as graphs
Social networks as graphs
上图中,结点、边和全局信息都只用了一个标量表示,但更实际的方法是用向量表示
下面我们将使用 “message passing neural network” (信息传递网络) 框架来构建 GNN.
GNN layer / GNN block
As is common with neural networks modules or layers, we can stack these GNN layers together.
下面讲解 GNN 的最后一层如何得到预测值
An end-to-end prediction task with a GNN model
下面将介绍 GNN 如何利用图的结构信息 (连通性)
上述的 message-passing 其实和卷积有些相似,因此带信息汇聚的 GNN 也被称为 GCN (图卷积神经网络)。如果将结点看作像素点,相邻结点看作同一个卷积核作用的区域,那么 message-passing 就相当于用一个数值全为 1 的卷积核进行卷积。类似于多个卷积层可以增加感受野,多个 GNN 层的堆叠也可以使得生成的结点/边向量包含很多结点/边的信息
分子预测任务
Node/Edge/Global embedding 旁的对勾代表是否 Node/Edge/Global embedding 是否进行消息传递;图中的可视化是通过对 GNN 的 penultimate layer activations 进行 PCA 降维后得到的,圆圈的填充色代表预测值,边框色代表真值
Some empirical GNN design lessons
图中的每个点都代表了使用某种超参的模型。 x x x 轴代表模型参数量, y y y 轴代表 AUC
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。