2 个月前

基于注意力机制的图神经网络在半监督学习中的应用

Kiran K. Thekumparampil; Chong Wang; Sewoong Oh; Li-Jia Li
基于注意力机制的图神经网络在半监督学习中的应用
摘要

最近流行的图神经网络在基于图的半监督学习的标准基准数据集上达到了最先进的准确性,显著优于现有方法。这些架构交替使用传播层(聚合局部邻域的隐藏状态)和全连接层。令人惊讶的是,我们发现即使移除所有中间的全连接层,线性模型仍能实现与最先进模型相当的性能。这大大减少了参数数量,对于标签样本较少的半监督学习来说至关重要。这一发现为设计更具创新性的传播层提供了空间。基于这一见解,我们提出了一种新的图神经网络,该网络移除了所有中间的全连接层,并用尊重图结构的注意力机制替换了传播层。注意力机制使我们能够学习动态且自适应的邻域局部摘要,从而实现更准确的预测。通过在多个基准引文网络数据集上的实验,我们证明了我们的方法优于其他竞争方法。通过对邻居之间的注意力权重进行分析,我们展示了模型如何提供关于邻居之间相互影响的一些有趣见解。

基于注意力机制的图神经网络在半监督学习中的应用 | 最新论文 | HyperAI超神经