13일 전

파라미터화된 하이퍼복소 그래프 신경망을 이용한 그래프 분류

Tuan Le, Marco Bertolini, Frank Noé, Djork-Arné Clevert
파라미터화된 하이퍼복소 그래프 신경망을 이용한 그래프 분류
초록

최근 하이퍼컴플렉스(HC) 공간 내 표현 학습 분야에서의 진전에도 불구하고, 이 주제는 그래프 맥락에서는 여전히 매우 탐색되지 않은 상태이다. 복소수와 퀼레르니언 대수에서 유도된 영감을 바탕으로, 이러한 대수 구조들이 무게 공유(weight-sharing) 메커니즘을 내재적으로 포함하는 효과적인 표현 학습을 가능하게 한다는 점이 여러 맥락에서 확인된 바 있어, 본 연구에서는 하이퍼컴플렉스 특징 변환의 특성을 활용하는 그래프 신경망을 제안한다. 특히 제안하는 모델 계열에서는 대수 자체를 규정하는 곱셈 규칙이 학습 과정 중 데이터로부터 추론된다. 고정된 모델 아키텍처를 기준으로, 제안 모델이 정규화(regularization) 효과를 내포하고 있으며, 과적합(overfitting)의 위험을 완화함을 실증적으로 입증한다. 또한 모델 용량을 고정했을 때, 제안한 방법이 대응되는 실수형 GNN(real-formulated GNN)보다 우수한 성능을 보이며, 하이퍼컴플렉스 임베딩의 증강된 표현력에 대한 추가적 확인을 제공한다. 마지막으로, 제안된 하이퍼컴플렉스 GNN을 여러 공개 그래프 벤치마크 데이터셋에 적용하여, 파라미터 수가 70% 이상 감소하고 메모리 사용량도 크게 낮은 상태에서 최신 기술(SOTA) 수준의 성능을 달성함을 보였다. 본 연구의 구현 코드는 https://github.com/bayer-science-for-a-better-life/phc-gnn 에서 공개되어 있다.

파라미터화된 하이퍼복소 그래프 신경망을 이용한 그래프 분류 | 최신 연구 논문 | HyperAI초신경