2019-4-18-图神经网络

18 Apr 2019   |   relation-extraction  |  

主要内容：

1. 图神经网络模型
2. 图神经网络用于少样本关系抽取

图神经网络

主要针对非欧几里得空间结构（图结构）的数据进行处理

• 忽略节点的输入顺序
• 在计算过程中，节点的表示受其周围邻居节点的影响
• 图结构的表示，使得可以进行基于图的推理

常见的图神经网络有：

• 图卷积神经网络(GraphConvolutional Networks, GCNs)
• 门控图神经网络(Gated Graph Neural Networks,GGNNs)
• 图注意力神经网络(Graph Attention Networks,GAT)

图神经网络用于少样本学习

• 将支撑集和查询集视为图的节点，使用图神经网络来处理少样本学习问题
• 节点信息在图神经网络节点中传递
• 查询集从支撑集中获取信息用于分类

少样本学习流程：

图神经网络示意图：

图神经网络主要由三部分构成：

• 表示节点信息
• 计算节点间(边)的信息
• 传递节点信息

图层计算过程

节点信息传递：输入节点信息x_k通过图层函数Gc得到输出节点信息x_k+1

节点间信息(边特征)：节点间的距离表示(这里使用的是L1距离)

边权重计算(节点间的特征)

图层计算

图神经网络

实验结果

• Mini-ImageNet数据集：训练集64个类，验证集16个类，测试集20个类，每类有600个实例
• FewRel数据集包含7万个实例，100种关系，每种关系700个实例，其中， 64种关系用于 的训练集，16种关系用于验证集，20种关系用于测试集。

参考文献：

• Victor Garcia Satorras and Joan Bruna Estrach. 2018. Few-shot learning with graph neural networks. In Proceedings of ICLR.
• Zhou J, Cui G, Zhang Z, et al. Graph neural networks: A review of methods and applications[J]. arXiv preprint arXiv:1812.08434, 2018.