15일 전

Half-Hop: 메시지 전달 속도를 늦추기 위한 그래프 업샘플링 접근법

Mehdi Azabou, Venkataramana Ganesh, Shantanu Thakoor, Chi-Heng Lin, Lakshmi Sathidevi, Ran Liu, Michal Valko, Petar Veličković, Eva L. Dyer
Half-Hop: 메시지 전달 속도를 늦추기 위한 그래프 업샘플링 접근법
초록

메시지 전달 신경망은 그래프 구조 데이터에서 많은 성공을 거두었다. 그러나 인접한 노드가 서로 다른 클래스에 속할 경우 메시지 전달이 과도하게 평활화되거나 실패하는 경우가 많다. 본 연구에서는 메시지 전달 신경망의 학습 성능을 향상시키기 위한 단순하면서도 일반적인 프레임워크를 제안한다. 본 방법은 원본 그래프의 각 간선에 '슬로우 노드(slow nodes)'를 추가함으로써 간선을 업샘플링하는 방식으로, 소스 노드와 타깃 노드 간의 통신을 매개한다. 본 방법은 입력 그래프만을 수정하므로 기존 모델과 즉시 연동 가능하며 사용이 간편하다. 메시지 전달을 느리게 하는 것의 이점을 이해하기 위해 이론적 및 실험적 분석을 제공한다. 다양한 지도학습 및 자기지도학습 기준에서의 실험 결과를 보고하며, 특히 인접 노드가 서로 다른 레이블을 가질 가능성이 높은 이질적(heterophilic) 조건에서 전반적으로 성능 향상이 확인되었다. 마지막으로, 본 방법이 자기지도학습을 위한 증강 기법으로 활용될 수 있음을 보여주며, 슬로우 노드를 그래프의 다양한 간선에 무작위로 삽입함으로써 경로 길이가 다양한 다중 스케일 뷰를 생성할 수 있음을 제시한다.

Half-Hop: 메시지 전달 속도를 늦추기 위한 그래프 업샘플링 접근법 | 최신 연구 논문 | HyperAI초신경