15일 전

노드와 동질성 이상의 그래프 표현 학습

You Li, Bei Lin, Binli Luo, Ning Gui
노드와 동질성 이상의 그래프 표현 학습
초록

비지도 그래프 표현 학습은 다양한 그래프 정보를 하류 작업에 무관한 밀집 벡터 임베딩으로 요약하는 것을 목표로 한다. 그러나 기존의 그래프 표현 학습 방법들은 주로 노드 동질성 가정(노드 간 연결이 있을 경우 레이블이 유사할 가능성이 높다) 하에 설계되어 있으며, 이는 노드 중심의 하류 작업에서 성능을 최적화하는 데 초점이 맞춰져 있다. 이러한 설계는 명백히 작업 무관성 원칙에 반하며, 노드 관점과 동질성 가정을 넘어서는 특징 신호를 요구하는 작업—예를 들어 엣지 분류—에서는 일반적으로 낮은 성능을 보인다. 다양한 특징 신호를 임베딩에 효과적으로 통합하기 위해 본 논문은 PairE라는 새로운 비지도 그래프 임베딩 방법을 제안한다. 이 방법은 두 개의 쌍으로 이루어진 노드를 임베딩의 기본 단위로 사용함으로써, 노드 간의 고주파 신호를 유지함으로써 노드 관련 및 엣지 관련 작업을 모두 지원한다. 이를 위해 다중 자기지도 자동부호화기(multi-self-supervised autoencoder)를 설계하여 두 가지 사전 작업(pretext tasks)을 수행한다. 하나는 고주파 신호를 더 잘 유지하도록 하고, 다른 하나는 공통된 특징 표현을 강화하도록 한다. 다양한 벤치마크 데이터셋에 대한 광범위한 실험 결과는 PairE가 비지도 최신 기법들보다 뛰어난 성능을 보임을 분명히 보여주며, 쌍 내의 고주파 및 저주파 신호를 모두 활용하는 엣지 분류 작업에서 최대 101.1%의 상대적 성능 향상을 기록했고, 노드 분류 작업에서는 최대 82.5%의 상대적 성능 향상을 달성하였다.

노드와 동질성 이상의 그래프 표현 학습 | 최신 연구 논문 | HyperAI초신경