15일 전

순서화된 GNN: 이질성과 과도한 평활화를 다루기 위한 메시지 전파의 순서화

Yunchong Song, Chenghu Zhou, Xinbing Wang, Zhouhan Lin
순서화된 GNN: 이질성과 과도한 평활화를 다루기 위한 메시지 전파의 순서화
초록

대부분의 그래프 신경망은 메시지 전달 메커니즘을 따릅니다. 그러나 그래프에 여러 번의 메시지 전달을 적용할 경우 과도한 평활화(over-smoothing) 문제가 발생하여 노드 표현이 구별하기 어려워지고, 먼 거리에 있는 노드 간의 의존성 학습이 효과적으로 이루어지지 않게 됩니다. 반면, 서로 다른 레이블을 가진 이웃 노드의 특징은 오류적으로 혼합될 가능성이 높아져 이질성(heterophily) 문제를 야기합니다. 본 연구에서는 중심 노드의 루트 트리(rooted-tree) 구조의 계층을 노드 표현 내 순서화된 신경망 블록들과 정렬함으로써, 메시지 전달을 노드 표현에 순서 있게 도입하는 방식을 제안합니다. 다양한 데이터셋에 대한 실험 결과, 본 모델은 특별한 설계 없이도 동질성(homophily) 및 이질성(heterophily) 환경에서 모두 최고 성능을 동시에 달성함을 보였습니다. 또한 모델이 매우 깊어져도 성능이 크게 저하되지 않으며, 과도한 평활화 문제를 효과적으로 억제함을 확인했습니다. 마지막으로 게이팅 벡터(gating vector)를 시각화한 결과, 본 모델이 동질성과 이질성 환경에서 서로 다른 행동 방식을 학습하고 있음을 확인할 수 있었으며, 이는 해석 가능한 그래프 신경망 모델을 제공함을 의미합니다.

순서화된 GNN: 이질성과 과도한 평활화를 다루기 위한 메시지 전파의 순서화 | 최신 연구 논문 | HyperAI초신경