11일 전
스펙트럼 그래프 표현 학습을 위한 서명 및 기저 불변 네트워크
Derek Lim, Joshua Robinson, Lingxiao Zhao, Tess Smidt, Suvrit Sra, Haggai Maron, Stefanie Jegelka

초록
우리는 고유벡터가 보이는 두 가지 주요 대칭성에 대해 불변(invariant)인 새로운 신경망 아키텍처인 SignNet과 BasisNet을 제안한다. 첫째, 고유벡터의 부호 반전(symmetry of sign flips)에 대한 불변성으로, 만약 $v$가 고유벡터이면 $-v$ 역시 고유벡터이기 때문이다. 둘째, 고유벡터 공간의 차원이 높을 경우 무한히 많은 기저 벡터 선택이 가능하기 때문에 발생하는 보다 일반적인 기저 대칭성(basis symmetries)에 대한 불변성이다. 우리는 특정 조건 하에서 본 네트워크가 보편적(universal)임을 입증한다. 즉, 원하는 불변성을 갖는 고유벡터의 연속함수를 임의로 근사할 수 있음을 보였다. 라플라시안 고유벡터와 함께 사용할 경우, 기존의 스펙트럼 방법보다 증명 가능한 더 높은 표현 능력을 지닌다. 예를 들어, 모든 스펙트럼 그래프 컨볼루션(spectral graph convolutions), 특정 스펙트럼 그래프 불변량(spectral graph invariants), 그리고 이전에 제안된 그래프 위치 인코딩(graph positional encodings)을 특수한 경우로 포괄한다. 실험 결과, 분자 그래프 회귀, 표현력 있는 그래프 표현 학습, 삼각형 메시 위의 신경장(neural fields) 학습에서 기존의 베이스라인보다 현저히 우수한 성능을 보였다. 코드는 https://github.com/cptq/SignNet-BasisNet 에서 공개되어 있다.