15일 전

이질성 그래프를 위한 자기주의 이중 임베딩

Yurui Lai, Taiyan Zhang, Rui Fan
이질성 그래프를 위한 자기주의 이중 임베딩
초록

그래프 신경망(GNN)은 노드 분류 작업에서 매우 성공적인 성과를 거두었다. 일반적으로 GNN은 그래프가 동질성(homophilic)을 가진다고 가정한다. 즉, 인접한 노드들은 동일한 클래스에 속할 가능성이 높다는 것이다. 그러나 현실 세계의 많은 그래프는 이질성(heterophilic)을 가지며, 이로 인해 기존의 표준 GNN을 사용할 경우 분류 정확도가 크게 저하된다. 본 연구에서는 이질성과 동질성을 모두 효과적으로 다룰 수 있는 새로운 GNN을 설계하였다. 본 연구는 세 가지 주요 관찰에 기반한다. 첫째, 다양한 그래프에서 노드 특징과 그래프 구조(topology)가 제공하는 정보량이 달라지며, 따라서 이들을 독립적으로 인코딩하고 적응적으로 우선순위를 부여해야 함을 보였다. 둘째, 그래프 구조 정보를 전파할 때 음의 어텐션 가중치를 허용하는 것이 정확도 향상에 기여함을 확인하였다. 셋째, 노드 간의 비대칭적인 어텐션 가중치가 유용함을 입증하였다. 이러한 관찰을 바탕으로, 새로운 자기 어텐션(self-attention) 메커니즘을 통해 이를 구현한 GNN을 설계하였다. 우리는 수천에서 수백만 개의 노드를 포함하는 실제 세계 그래프에서 본 알고리즘을 평가하였으며, 기존의 GNN들에 비해 최고 수준의 성능을 달성함을 보였다. 또한, 본 설계의 주요 구성 요소들이 다양한 그래프에서 얼마나 효과적인지에 대해 분석하였다.

이질성 그래프를 위한 자기주의 이중 임베딩 | 최신 연구 논문 | HyperAI초신경