그래프 신경망의 깊이와 범위 분리하기

최신의 그래프 신경망(GNN)은 그래프 크기와 모델 깊이 측면에서 제한된 확장성(스케일러빌리티)을 가지고 있다. 대규모 그래프에서는 모델의 깊이를 증가시키면 수용 영역(receptive field)이 지수적으로 확장되는 경향이 있다. 몇 층을 넘어서면 두 가지 근본적인 문제들이 나타난다. 첫째, 과도한 평활화(oversmoothing)로 인한 표현력 저하이며, 둘째, 이웃 노드의 폭발적 증가로 인한 높은 계산 비용이다. 우리는 GNN의 깊이와 수용 영역을 분리하는 설계 원칙을 제안한다. 특정 엔티티(노드 또는 엣지)의 표현을 생성하기 위해, 먼저 크기가 제한된 국소적 서브그래프를 추출하여 수용 영역을 제한하고, 그 서브그래프 위에 임의의 깊이를 가진 GNN을 적용한다. 적절히 추출된 서브그래프는 관련성이 높은 소수의 핵심 이웃들만 포함하면서 무관한 이웃들을 배제한다. 이로 인해, 어떤 깊이의 GNN이라도 전역 그래프 전체를 '흰색 잡음'처럼 과도하게 평활화하는 대신, 국소적 이웃을 유의미한 표현으로 매끄럽게 정제한다. 이론적으로, 이 분리 기법은 그래프 신호 처리(GCN), 함수 근사(GraphSAGE), 위상학적 학습(GIN)의 관점에서 GNN의 표현력을 향상시킨다. 실증적으로, 최대 1,100만 개의 노드를 가진 7개의 그래프와 6개의 주요 GNN 아키텍처에서 본 설계는 계산량과 하드웨어 비용을 수개월 단위로 감소시키면서도 상당한 정확도 향상을 달성하였다.