16일 전
hpGAT: 고차원 근접성 정보를 반영한 그래프 어텐션 네트워크
{Pin-Yu Chen, Zhining Liu, Chengyun Song, Weiyi Liu, Chenyi Zhuang}
초록
그래프 신경망(GNNs)은 최근 그래프 구조 데이터 학습의 패러다임에서 놀라운 돌파구를 이루었다. 그러나 기존 대부분의 GNNs는 각 레이어에서 노드의 수용 영역(receptive field)을 단지 연결된(1-호프) 이웃 노드로 제한하고 있어, 최첨단 신경망에서 큰 수용 영역이 핵심적인 요소임이 이미 입증된 사실을 간과하고 있다. 본 논문에서는 입력 그래프의 계층적 위상 구조에서 추출한 고차원 근접성 정보(high-order proximity)를 활용하여 GNNs에 적절한 가변 수용 영역을 정의하는 새로운 접근법을 제안한다. 구체적으로, 학습 가능한 계층적 반음성 행렬 분해(hierarchical semi-nonnegative matrix factorization)를 통해 얻어진 다중 스케일 그룹을 활용하여 1-호프 이웃을 집계할 때 가중치를 조정한다. 이 과정에서 이웃 노드의 특성(attribute)에 대한 그래프 주의 메커니즘(graph attention mechanism)과 통합함으로써, 집계 과정 내의 학습 가능한 파라미터를 엔드투엔드(end-to-end) 방식으로 최적화한다. 광범위한 실험 결과는 제안하는 방법(hpGAT)이 최첨단 기법들을 능가함을 보여주며, 국소적 이웃의 노이즈 정보를 다룰 때 고차원 근접성 정보를 효과적으로 활용하는 것이 중요함을 입증한다.