7 天前
UltraGCN:面向推荐系统的图卷积网络超简化方法
Kelong Mao, Jieming Zhu, Xi Xiao, Biao Lu, Zhaowei Wang, Xiuqiang He

摘要
随着图卷积网络(Graph Convolutional Networks, GCNs)的近期成功,其已在推荐系统领域得到广泛应用,并取得了显著的性能提升。GCNs的核心机制在于通过消息传递(message passing)来聚合邻居信息。然而,我们观察到,消息传递过程在训练过程中显著减缓了GCNs的收敛速度,尤其在大规模推荐系统中尤为明显,这在一定程度上制约了其广泛应用。LightGCN首次尝试通过省略特征变换和非线性激活函数,对GCNs进行简化以适配协同过滤任务。本文在此基础上更进一步,提出了一种极致简化的GCN形式(称为UltraGCN),该方法跳过了无限层消息传递过程,从而实现高效推荐。与传统的显式消息传递不同,UltraGCN通过引入约束损失函数,直接逼近无限层图卷积的极限状态。同时,UltraGCN支持更合理的边权重分配,并可灵活调节不同类型关系之间的相对重要性。最终,我们构建了一个结构简洁但效果卓越的UltraGCN模型,具有实现简单、训练高效的优势。在四个基准数据集上的实验结果表明,UltraGCN不仅显著优于当前最先进的GCN模型,而且相较于LightGCN实现了超过10倍的加速。我们的源代码将公开于 https://reczoo.github.io/UltraGCN。