15일 전

지속적인 엣지 방향 학습을 통한 그래프 신경망 성능 향상

Seong Ho Pahng, Sahand Hormoz
지속적인 엣지 방향 학습을 통한 그래프 신경망 성능 향상
초록

그래프 신경망(GNN)은 전통적으로 무방향 그래프 위에서 확산과 유사한 메시지 전달 메커니즘을 사용하며, 이는 노드 특징의 동질화를 초래하고 노드 분류와 같은 과제에서 구분 능력이 저하되는 문제를 야기한다. 이 제약을 해결하기 위한 우리의 핵심 통찰은 그래프의 간선에 연속적으로 변화할 수 있는 흐릿한 간선 방향(fuzzy edge directions)을 부여하는 것이다. 이 흐릿한 방향은 노드 $i$에서 노드 $j$로의 방향에서 그 반대 방향으로까지 연속적으로 변할 수 있으며, 이를 통해 노드 간 정보 흐름이 특정 방향으로 선호되도록 하여 그래프 전반에 걸쳐 장거리 정보 전달을 가능하게 한다. 또한, 흐릿한 간선을 가진 방향 그래프를 위한 새로운 복소수 라플라시안을 제안한다. 이 라플라시안의 실수부와 허수부는 서로 반대 방향으로의 정보 흐름을 각각 나타낸다. 이러한 라플라시안을 기반으로, 흐릿한 간선을 가진 그래프에서 학습할 수 있는 일반적인 프레임워크인 연속적 간선 방향(Continuous Edge Direction, CoED) GNN을 제안하며, 방향 그래프에 대한 흐릿한 간선을 고려한 Weisfeiler-Leman(WL) 그래프 동형성 테스트의 일반화를 활용하여 그 표현력의 한계를 증명한다. 제안하는 아키텍처는 학습된 간선 방향에 의해 스케일링된 이웃 노드 특징을 집계하고, 들어오는 이웃(in-neighbors)과 나가는 이웃(out-neighbors)로부터의 집계된 메시지를 각각 별도로 처리하며, 노드 자체의 특징과 함께 통합한다. 연속적 간선 방향은 미분 가능하므로, 기울기 기반 최적화를 통해 GNN 가중치와 함께 공동으로 학습될 수 있다. CoED GNN은 그래프 구조는 고정되어 있으나 여러 번의 노드 특징 실현(realisations)이 존재하는 그래프 앙상블 데이터에 특히 적합하다. 예를 들어 유전자 조절 네트워크, 웹 연결성 그래프, 전력망 등에서 이러한 데이터 구조가 자주 나타난다. 합성 및 실제 그래프 앙상블 데이터셋을 대상으로 한 광범위한 실험을 통해, 기존 방법에 비해 연속적 간선 방향을 학습함으로써 무방향 및 방향 그래프 모두에서 성능이 크게 향상됨을 입증하였다.

지속적인 엣지 방향 학습을 통한 그래프 신경망 성능 향상 | 최신 연구 논문 | HyperAI초신경