2달 전
이종 분포 전파를 이용한 그래프 신경망
Zhuonan Zheng; Sheng Zhou; Hongjia Xu; Ming Gu; Yilun Xu; Ao Li; Yuhong Li; Jingjun Gu; Jiajun Bu

초록
그래프 신경망 (GNNs)은 표현 학습을 위해 이웃 노드들의 정보를 집계함으로써 다양한 그래프 마이닝 작업에서 뛰어난 성공을 거두었습니다. 이러한 성공은 가까운 노드들이 유사한 행동을 보이는 동질성 가정에 기반하지만, 많은 실제 그래프에서는 이 가정이 위배될 수 있습니다. 최근에는 이질적 이웃을 처리하기 위해 신경 메시지 전달 스키마를 수정한 이질적 그래프 신경망 (HeterGNNs)이 점점 더 주목받고 있습니다. 그러나 이들 모델은 이웃 분할과 이질성 모델링이 부족하여, 이를 극복하는 것이 중요하면서도 어려운 문제입니다. 이러한 도전 과제를 해결하기 위해, 본 논문에서는 그래프 신경망을 위한 이질적 분포 전파 (HDP) 방법을 제안합니다. HDP는 모든 이웃의 정보를 집계하는 대신, 훈련 중에 의사 할당(pseudo assignments)을 기반으로 이웃 노드들을 동질적 부분과 이질적 부분으로 적응적으로 분리합니다. 신뢰할 수 있는 프로토타입 대조학습(contrastive learning) 패러다임을 통해 직교 지향적인 제약 조건으로 이질적 이웃 분포를 학습합니다. 동질적 패턴과 이질적 패턴 모두 새로운 의미 인식 메시지 전달 메커니즘을 통해 전파됩니다. 우리는 9개의 벤치마크 데이터셋에서 서로 다른 수준의 동질성을 가진 실험을 수행했습니다. 실험 결과는 우리의 방법이 이질적인 데이터셋에서 대표적인 기준 모델(baselines)보다 우수한 성능을 보임을 입증하였습니다.