15 天前

半跳:一种用于减缓消息传递的图上采样方法

Mehdi Azabou, Venkataramana Ganesh, Shantanu Thakoor, Chi-Heng Lin, Lakshmi Sathidevi, Ran Liu, Michal Valko, Petar Veličković, Eva L. Dyer
半跳:一种用于减缓消息传递的图上采样方法
摘要

消息传递神经网络在图结构数据上已取得显著成功。然而,在许多实际场景中,消息传递机制可能导致过平滑问题,或在相邻节点属于不同类别时失效。本文提出一种简单但通用的框架,用于提升消息传递神经网络的学习性能。我们的方法通过在原始图的每条边上引入“慢节点”(slow nodes),对边进行上采样,从而实现源节点与目标节点之间的通信中介。该方法仅修改输入图结构,无需改动现有模型,具有即插即用的特性,易于集成。为深入理解减缓消息传递带来的优势,我们从理论和实证两个层面进行了分析。在多个监督学习与自监督学习基准任务上的实验结果表明,该方法在各类场景下均取得显著提升,尤其在异质性(heterophilic)条件下表现突出——即相邻节点更可能具有不同标签的情形。此外,我们进一步展示了该方法在自监督学习中的应用潜力:通过随机在图的不同边上引入慢节点,可生成具有不同路径长度的多尺度视图,从而为自监督学习提供有效的数据增强策略。

半跳:一种用于减缓消息传递的图上采样方法 | 最新论文 | HyperAI超神经