HyperAIHyperAI

Command Palette

Search for a command to run...

半跳:一种用于减缓消息传递的图上采样方法

Mehdi Azabou Venkataramana Ganesh Shantanu Thakoor Chi-Heng Lin Lakshmi Sathidevi Ran Liu Michal Valko Petar Veličković Eva L. Dyer

摘要

消息传递神经网络在图结构数据上已取得显著成功。然而,在许多实际场景中,消息传递机制可能导致过平滑问题,或在相邻节点属于不同类别时失效。本文提出一种简单但通用的框架,用于提升消息传递神经网络的学习性能。我们的方法通过在原始图的每条边上引入“慢节点”(slow nodes),对边进行上采样,从而实现源节点与目标节点之间的通信中介。该方法仅修改输入图结构,无需改动现有模型,具有即插即用的特性,易于集成。为深入理解减缓消息传递带来的优势,我们从理论和实证两个层面进行了分析。在多个监督学习与自监督学习基准任务上的实验结果表明,该方法在各类场景下均取得显著提升,尤其在异质性(heterophilic)条件下表现突出——即相邻节点更可能具有不同标签的情形。此外,我们进一步展示了该方法在自监督学习中的应用潜力:通过随机在图的不同边上引入慢节点,可生成具有不同路径长度的多尺度视图,从而为自监督学习提供有效的数据增强策略。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供