16 天前

谱图表示学习中的符号与基底不变网络

Derek Lim, Joshua Robinson, Lingxiao Zhao, Tess Smidt, Suvrit Sra, Haggai Maron, Stefanie Jegelka
谱图表示学习中的符号与基底不变网络
摘要

我们提出了 SignNet 和 BasisNet——两种新型神经网络架构,能够对特征向量所表现出的两种关键对称性保持不变:(i) 符号翻转对称性,因为若 $v$ 是一个特征向量,则 $-v$ 也是;(ii) 更一般的基对称性,这出现在高维特征子空间中,其基特征向量的选择具有无限多种可能。我们证明,在一定条件下,这些网络具有通用性,即能够逼近任意满足所需不变性的连续特征向量函数。当与拉普拉斯特征向量结合使用时,我们的网络在图结构上的表达能力被严格证明优于现有的谱方法;例如,它们可涵盖所有谱图卷积、部分谱图不变量,以及此前提出的图位置编码作为特例。实验结果表明,我们的网络在分子图回归、学习富有表现力的图表示,以及在三角网格上学习神经场等任务中,显著优于现有基线方法。代码已开源,地址为:https://github.com/cptq/SignNet-BasisNet。