자연 경사 하강을 이용한 그래프 신경망 최적화

본 연구에서는 그래프 신경망 아키텍처(예: 그래프 컨볼루션 네트워크)의 최적화를 위해 정보기하학적 도구를 활용하는 방법을 제안한다. 구체적으로, 자연 경사(自然梯度, natural gradient) 정보를 최적화 과정에 도입함으로써 그래프 기반 반감독 학습을 위한 최적화 알고리즘을 개발한다. 이를 통해 최적화 및 추론 과정에서 기저 통계 모델 또는 파라미터 공간의 기하학적 구조를 효율적으로 활용할 수 있다. 우리가 알고 있는 한, 본 연구는 그래프 신경망의 최적화에 자연 경사를 적용한 최초의 사례이며, 이 접근법은 다른 반감독 문제로도 확장 가능한 가능성을 지닌다. 또한 효율적인 계산 알고리즘을 개발하고, ADAM 및 SGD와 같은 기존 알고리즘들과 비교하여 광범위한 수치 실험을 수행함으로써 제안된 알고리즘의 우수한 성능을 입증하였다.