15 天前

CAT:一种用于修剪异质图的因果图注意力网络

Silu He, Qinyao Luo, Xinsha Fu, Ling Zhao, Ronghua Du, Haifeng Li
CAT:一种用于修剪异质图的因果图注意力网络
摘要

在图注意力网络(Graph Attention Networks, GATs)中采用的局部注意力引导消息传递机制(Local Attention-guided Message Passing Mechanism, LAMP)旨在自适应地学习邻接节点的重要性,以实现图上更优的局部聚合,从而有效拉近相似邻接节点的表示,展现出更强的判别能力。然而,现有GATs在异质图(heterophilic graphs)中面临显著的判别能力下降问题,这是由于大量不相似的邻接节点会削弱中心节点的自注意力机制,导致中心节点在表示空间中偏离其相似邻居,产生不利影响。本文将这种由邻接节点引发的负面影响称为“干扰效应”(Distraction Effect, DE)。为估计并缓解邻接节点的DE,本文提出一种基于因果推理的异质图剪枝图注意力网络(Causally Graph Attention network for Trimming heterophilic graph, CAT)。为估计DE,考虑到DE通过两条路径产生——即“争夺中心节点分配给邻接节点的注意力”以及“降低中心节点自身的注意力”——本文采用总效应(Total Effect)作为因果估计量(causal estimand),该量可通过干预数据进行估计。为削弱DE,本文识别出对中心节点产生最大干扰效应的邻接节点(称之为“干扰邻居”,Distraction Neighbors),并将其从注意力计算中移除。在所提出的CAT框架中,我们选取三种具有代表性的GAT模型作为基线模型,并在三个不同规模的七组异质图数据集上进行了实验。对比实验结果表明,CAT能够显著提升所有基线GAT模型的节点分类准确率。消融实验与可视化分析进一步验证了CAT在增强模型判别能力方面的有效性。相关源代码已开源,地址为:https://github.com/GeoX-Lab/CAT。