15 天前

有序GNN:通过有序消息传递应对异质性与过度平滑问题

Yunchong Song, Chenghu Zhou, Xinbing Wang, Zhouhan Lin
有序GNN:通过有序消息传递应对异质性与过度平滑问题
摘要

大多数图神经网络遵循消息传递机制。然而,当在图上多次执行消息传递时,该机制容易出现过平滑(over-smoothing)问题,导致节点表示变得难以区分,从而阻碍模型有效学习远距离节点之间的依赖关系。另一方面,标签不同的邻近节点特征可能被错误地混合,进而引发异质性(heterophily)问题。在本工作中,我们提出对消息传递过程进行有序化处理,通过在节点表示中设置特定的神经元区块,分别对应不同跳数(hop)范围内的消息传递。这一目标通过将中心节点的根树(rooted-tree)结构层次与节点表示中有序排列的神经元进行对齐来实现。在大量数据集上的实验结果表明,我们的模型在同质性(homophily)和异质性(heterophily)设置下均能同时达到当前最优性能,且无需针对特定场景进行专门设计。此外,即使模型深度显著增加,其性能依然保持稳定,有效缓解了过平滑问题。最后,通过可视化门控向量(gating vectors),我们发现模型能够根据图结构的同质性或异质性自动调整行为,从而构建出具有可解释性的图神经网络模型。

有序GNN:通过有序消息传递应对异质性与过度平滑问题 | 最新论文 | HyperAI超神经