15일 전

클래식 GNN은 강력한 베이스라인이다: 노드 분류를 위한 GNN 재평가

Yuankai Luo, Lei Shi, Xiao-Ming Wu
클래식 GNN은 강력한 베이스라인이다: 노드 분류를 위한 GNN 재평가
초록

최근 그래프 트랜스포머(Graph Transformers, GTs)는 전통적인 메시지 전달 기반 그래프 신경망(Graph Neural Networks, GNNs)의 대안으로 주목받고 있다. 이는 GTs가 이론적으로 더 높은 표현 능력을 지니고 있으며, 표준 노드 분류 벤치마크에서 뛰어난 성능을 보였다는 보고로 인해 GNNs를 상회하는 성능을 내고 있다는 점에서 그 이유가 있다. 본 논문에서는 세 가지 전형적인 GNN 모델(GCN, GAT, GraphSAGE)이 GTs와 비교하여 실제로 어떤 성능을 발휘하는지를 철저한 실증 분석을 통해 재평가한다. 우리의 연구 결과에 따르면, 기존에 보고된 GTs의 우수성은 GNN 모델의 하이퍼파라미터 설정이 비최적화된 상태에서 발생한 과대평가일 가능성이 있다. 특히, 하이퍼파라미터를 미세 조정한 결과, 이러한 전통적인 GNN 모델들은 18개의 다양한 데이터셋 중 17개에서 최신 GTs와 동등하거나 이를 초월하는 최첨단 성능을 달성하였다. 또한, 정규화, 드롭아웃, 잔차 연결, 네트워크 깊이와 같은 다양한 GNN 아키텍처 설정이 노드 분류 성능에 미치는 영향을 세부적으로 분석하기 위한 아블레이션 스터디를 수행하였다. 본 연구는 그래프 기계학습 분야에서 더 높은 실증적 엄격성을 촉진하고, 모델 성능을 보다 정확하게 비교하고 평가할 수 있도록 유도하는 것을 목적으로 한다.

클래식 GNN은 강력한 베이스라인이다: 노드 분류를 위한 GNN 재평가 | 최신 연구 논문 | HyperAI초신경