초록
그래프 컨볼루션 네트워크(GCNs)는 그래프에서의 표현 학습 능력으로 인해 큰 주목을 받고 있습니다. 하지만 깊은 층을 쌓는 데 유리한 컨볼루션 신경망(CNNs)과 달리, GCNs는 더 깊게 가면 기울기 소실, 과도한 평활화 및 과적합 문제를 겪습니다. 이러한 도전 과제들은 대규모 그래프에서의 GCNs의 표현 능력을 제한합니다. 본 논문에서는 매우 깊은 GCNs를 성공적이고 안정적으로 훈련할 수 있는 DeeperGCN을 제안합니다. 우리는 다양한 메시지 집계 연산(예: 평균, 최대값)을 통일하기 위해 미분 가능한 일반화된 집계 함수를 정의하였습니다. 또한, 새로운 정규화 계층인 MsgNorm과 GCNs용 사전 활성화 버전의 잔차 연결(residual connections)을 제안합니다. 오픈 그래프 벤치마크(OGB)에서 수행된 광범위한 실험 결과, DeeperGCN이 노드 속성 예측 및 그래프 속성 예측 등 대규모 그래프 학습 작업에서 최신 기술(state-of-the-art)보다 성능이 크게 향상됨을 보여주었습니다. 자세한 정보는 https://www.deepgcns.org를 방문하시기 바랍니다.