16일 전

ASAP: 계층적 그래프 표현 학습을 위한 적응형 구조 인지 풀링

Ekagra Ranjan, Soumya Sanyal, Partha Pratim Talukdar
ASAP: 계층적 그래프 표현 학습을 위한 적응형 구조 인지 풀링
초록

그래프 신경망(GNN)은 노드 분류, 링크 예측, 그래프 분류와 같은 다양한 작업을 해결하기 위해 그래프 구조 데이터를 모델링하는 데 효과적임이 입증되었다. 최근에는 모델이 노드에 포함된 정보를 다운샘플링하고 요약함으로써 그래프 수준의 표현을 생성하려는 그래프 풀링의 개념이 정의되는 데 있어 일부 진전이 있었다. 그러나 기존의 풀링 방법들은 그래프의 하위 구조를 효과적으로 포착하지 못하거나 대규모 그래프에 쉽게 확장되지 못하는 한계를 가지고 있다. 본 연구에서는 기존 그래프 풀링 아키텍처의 한계를 극복하기 위해, 희소성과 미분 가능성을 동시에 갖춘 새로운 풀링 방법인 ASAP(Adaptive Structure Aware Pooling)을 제안한다. ASAP는 새로운 형태의 자기주의(self-attention) 네트워크와 개선된 GNN 설계를 활용하여 주어진 그래프 내 각 노드의 중요도를 효과적으로 포착한다. 또한 각 계층에서 노드에 대해 희소한 소프트 클러스터 할당을 학습함으로써 하위 그래프를 효율적으로 풀링하여 풀링된 그래프를 형성한다. 다양한 데이터셋에서의 광범위한 실험과 이론적 분석을 통해 ASAP에 채택된 구성 요소들의 선택 근거를 제시한다. 실험 결과, 기존의 GNN 아키텍처와 ASAP를 결합할 경우, 여러 그래프 분류 벤치마크에서 최신 기술(SOTA) 수준의 성능을 달성함을 확인할 수 있었다. 기존의 희소 계층적 최신 기술 대비, ASAP는 평균 4%의 성능 향상을 보였다.

ASAP: 계층적 그래프 표현 학습을 위한 적응형 구조 인지 풀링 | 최신 연구 논문 | HyperAI초신경