15일 전

그래프 신경망에 대한 과도한 매끄러움 문제 측정 및 완화: 위상학적 관점에서

Deli Chen, Yankai Lin, Wei Li, Peng Li, Jie Zhou, Xu Sun
그래프 신경망에 대한 과도한 매끄러움 문제 측정 및 완화: 위상학적 관점에서
초록

그래프 신경망(GNNs)은 다양한 그래프 기반 작업에서 높은 성능을 달성하고 있다. 이러한 성공에도 불구하고 GNN의 주요한 한계 중 하나는 과도한 평활화(over-smoothing) 문제로, 이는 서로 다른 클래스에 속한 노드들 간의 표현이 구분되지 않게 되는 현상이다. 본 연구에서는 GNN의 과도한 평활화 문제에 대해 체계적이고 정량적인 분석을 제시한다. 먼저, 그래프 노드 표현의 평활화 수준과 과도한 평활화 정도를 각각 측정하기 위해 두 가지 정량적 지표인 MAD와 MADGap을 도입한다. 이후, 평활화는 GNN의 본질적인 특성임을 확인하고, 과도한 평활화를 유도하는 주요 요인은 노드가 수신하는 메시지의 정보 대 노이즈 비율(정보-노이즈 비)이 낮다는 점을 입증한다. 이 비율은 그래프의 구조적 특성에 의해 부분적으로 결정됨을 밝힌다. 마지막으로, 그래프 구조적 관점에서 과도한 평활화 문제를 완화하기 위한 두 가지 방법을 제안한다. 첫째, MADGap 기반 정규화 항을 학습 목적 함수에 추가하는 MADReg이며, 둘째, 모델 예측 결과를 기반으로 그래프 구조를 최적화하는 AdaGraph이다. 10종의 대표적인 GNN 모델과 7개의 널리 사용되는 그래프 데이터셋을 대상으로 수행한 광범위한 실험 결과, 제안하는 두 가지 방법이 과도한 평활화 문제를 효과적으로 완화함으로써 다양한 GNN 모델의 성능을 향상시킨다는 것을 확인하였다.

그래프 신경망에 대한 과도한 매끄러움 문제 측정 및 완화: 위상학적 관점에서 | 최신 연구 논문 | HyperAI초신경