神经层扩散：从拓扑视角看异质性和过平滑在图神经网络中的影响

细胞层束（cellular sheaves）通过为图的节点和边分配向量空间和线性映射，赋予图以“几何”结构。图神经网络（GNNs）隐式地假设了一个具有平凡底层层束的图。这一选择反映在图拉普拉斯算子的结构、相关扩散方程的性质以及离散化该方程的卷积模型的特征中。在本文中，我们利用细胞层束理论证明了图的底层几何结构与GNNs在异质亲和设置中的性能及其过度平滑行为之间存在深刻的联系。通过考虑一个逐渐一般化的层束层次结构，我们研究了层束扩散过程在无限时间极限下实现类线性分离的能力如何扩展。同时，我们证明了当层束非平凡时，离散化的参数扩散过程对其渐近行为具有比GNNs更大的控制能力。从实际应用的角度出发，我们探讨了如何从数据中学习层束。所得到的层束扩散模型具备许多理想的特性，解决了经典图扩散方程（及相应的GNN模型）的局限性，并在异质亲和设置中取得了有竞争力的结果。总体而言，我们的工作建立了GNNs与代数拓扑之间的新联系，对这两个领域都具有重要意义。