11일 전

그래프 멀티셋 풀링을 통한 그래프 표현의 정확한 학습

Jinheon Baek, Minki Kang, Sung Ju Hwang
그래프 멀티셋 풀링을 통한 그래프 표현의 정확한 학습
초록

그래프 신경망은 그래프 데이터 모델링에 널리 사용되어 노드 분류 및 링크 예측 과제에서 놀라운 성과를 거두었다. 그러나 그래프의 정확한 표현을 얻기 위해서는 노드 표현들의 집합을 효율적인 형태로 압축하는 풀링 함수가 필요하다. 기존의 단순한 합산 또는 평균 풀링은 모든 노드 특징을 동일하게 취급하며, 각 특징의 작업 관련성이나 상호 구조적 의존성에 대한 고려를 하지 않는다. 반면 최근 제안된 계층적 그래프 풀링 방법은, Weisfeiler-Lehman 그래프 동형성 검사에서 구분되는 두 개의 서로 다른 그래프에 대해 동일한 표현을 생성할 수 있으며, 이는 노드 특징에서 정보를 하위 최적 방식으로 보존하기 때문이다. 기존 그래프 풀링 방법의 이러한 한계를 극복하기 위해, 우리는 그래프 풀링 문제를 그래프 구조에 대한 보조 정보를 포함한 멀티셋 인코딩 문제로 재정의하고, 구조적 의존성에 따라 노드 간 상호작용을 포착할 수 있는 다중 헤드 어텐션 기반의 글로벌 풀링 레이어인 그래프 멀티셋 트랜스포머(Graph Multiset Transformer, GMT)를 제안한다. 우리는 GMT가 단사성(injectiveness)과 순열 불변성(permutation invariance)을 만족함을 보이며, 이로 인해 Weisfeiler-Lehman 그래프 동형성 검사와 최소한 동등한 표현 능력을 갖는다고 입증한다. 또한, 제안된 방법은 기존의 노드 클러스터링 기반 접근법을 계층적 그래프 풀링에 쉽게 확장할 수 있음을 보여준다. 실험 결과, GMT는 그래프 분류 벤치마크에서 최첨단 그래프 풀링 방법들을 크게 능가하며, 높은 메모리 및 시간 효율성을 유지한다. 더 나아가, 그래프 재구성 및 생성 과제에서는 더욱 두드러진 성능 향상을 달성한다.

그래프 멀티셋 풀링을 통한 그래프 표현의 정확한 학습 | 최신 연구 논문 | HyperAI초신경