16 天前

基于图门控单元的多层感知机在图表示学习中的应用及其在有限元法代理模型中的实践

{Okuda Hiroshi, Nakai Yu}
基于图门控单元的多层感知机在图表示学习中的应用及其在有限元法代理模型中的实践
摘要

图神经网络(GNNs)是用于图结构数据表示学习的神经网络,大多数GNN模型通过堆叠图卷积层构建而成。由于堆叠n层图卷积层等价于传播n跳邻域节点的信息,因此GNN需要足够多的网络层数才能学习大规模图数据。然而,随着层数增加,模型性能往往因“过平滑”(over-smoothing)问题而下降。本文提出一种新型GNN模型,该模型通过将带有门控结构的前馈神经网络与图卷积网络(GCN)相结合的方式进行堆叠,旨在解决过平滑问题,从而克服GNN在学习大规模图时的困难。实验结果表明,所提方法在不产生过平滑的前提下,预测准确率可随层数增加单调提升至20层;而传统方法在4至8层时即出现性能下降。在两个针对大规模图的实验中——包括用于归纳式节点分类的基准数据集PPI,以及有限元方法的代理模型应用——所提方法均取得了现有方法中的最高准确率,尤其在PPI数据集上达到了99.71%的先进水平,显著优于现有技术。

基于图门控单元的多层感知机在图表示学习中的应用及其在有限元法代理模型中的实践 | 最新论文 | HyperAI超神经