대규모 그래프 학습에 대한 종합적 연구: 벤치마킹 및 재고찰

대규모 그래프 학습은 그래프 신경망(GNN)에서 오랫동안 도전적인 문제로 여겨져 왔다. 학습 과정 동안 그래프 구조가 지속적으로 변화하는 특성상, 기존의 단순한 GNN 아키텍처는 GPU 메모리 공간의 제약으로 인해 일반적으로 확장성이 부족하다. 현재까지는 수많은 확장 가능한 GNN 아키텍처가 제안되었지만, 이러한 다양한 기법들을 종합적으로 정리하고 공정한 벤치마크를 제공함으로써 확장 가능한 GNN 설계의 근거를 도출할 수 있는 체계적인 조사가 부족한 실정이다. 이를 해결하기 위해 우리는 먼저 대규모 그래프 학습의 대표적 방법들을 몇 가지 주요 분야로 체계적으로 정리하고, 탐욕적 하이퍼파라미터 탐색을 통해 각 분야에 대해 공정하고 일관된 벤치마크를 구축하였다. 또한 효율성 측면에서, 다양한 분야의 시간 복잡도와 공간 복잡도를 이론적으로 평가하고, GPU 메모리 사용량, 처리량(throughput), 수렴 속도 측면에서 실증적으로 비교 분석하였다. 더불어, 확장 가능한 GNN의 각 분야별 장단점을 분석한 후, 기존 문제들을 해결하기 위한 새로운 앙상블 학습 방식인 EnGCN을 제안한다. 본 연구의 코드는 https://github.com/VITA-Group/Large_Scale_GCN_Benchmarking 에서 공개되어 있다.