11일 전
SLAPS: 자기지도 학습이 그래프 신경망의 구조 학습을 개선한다
Bahare Fatemi, Layla El Asri, Seyed Mehran Kazemi

초록
그래프 신경망(GNN)은 그래프 구조가 사전에 제공되는 경우에 우수한 성능을 발휘한다. 그러나 실세계 응용에서는 이러한 구조가 항상 존재하지는 않는다. 이 문제에 대한 해결책 중 하나는 작업에 특화된 잠재적 구조를 추론한 후, 추론된 그래프에 GNN을 적용하는 것이다. 그러나 가능한 그래프 구조의 공간은 노드 수가 증가함에 따라 초지수적으로 증가하므로, 작업에 특화된 감독 신호만으로는 구조와 GNN 파라미터를 동시에 학습하는 데 부족할 수 있다. 본 연구에서는 자기지도 학습(self-supervision)을 통해 그래프 구조 추론에 더 많은 감독을 제공하는, 인접 행렬과 GNN 파라미터를 동시에 학습하는 방법인 SLAPS(Simultaneous Learning of Adjacency and GNN Parameters with Self-supervision)를 제안한다. 광범위한 실험을 통해 SLAPS가 수십만 개의 노드를 가진 대규모 그래프에 잘 스케일링되며, 기존의 작업에 특화된 그래프 구조를 학습하기 위해 제안된 여러 모델들과 비교해 기존 벤치마크에서 우수한 성능을 보임을 입증하였다.