15 天前

图卷积神经网络中的转移熵

Adrian Moldovan, Angel Caţaron, Răzvan Andonie
图卷积神经网络中的转移熵
摘要

图卷积网络(Graph Convolutional Networks, GCN)是一类图神经网络,其卷积操作作用于图结构之上。与卷积神经网络(CNN)不同,GCN专为在图数据上进行推理而设计,能够处理节点数量可变且节点无序的图结构。在本研究中,我们聚焦于GCN面临的两个关键挑战:其一为过平滑(oversmoothing)问题;其二为节点间关系属性(即异质性 heterophily 与同质性 homophily)的有效利用。过平滑是指由于多次聚合操作导致节点表征的区分能力逐渐下降的现象;异质性指不同类别节点之间倾向于相连,而同质性则表现为相似节点之间更易建立连接。为此,我们提出一种基于转移熵(Transfer Entropy, TE)的新策略,以应对上述挑战。转移熵用于度量两个时变节点之间信息的定向传递量,能够有效捕捉节点间的动态依赖关系。研究结果表明,将节点的异质性特征与度数信息作为节点选择机制,并结合基于特征的转移熵计算,可显著提升多种GCN模型的分类准确率。所提出的模型具有良好的可扩展性,可便捷地集成到现有GCN架构中以增强其性能。然而,该方法的性能提升以显著增加的计算开销为代价,尤其在需对大量图节点计算转移熵时,计算成本较高。