17일 전

UniGAP: 노드 분류 작업에서 과도한 스무딩을 완화하기 위한 포괄적이고 적응형 그래프 업샘플링 접근법

Xiaotang Wang, Yun Zhu, Haizhou Shi, Yongchao Liu, Chuntao Hong
UniGAP: 노드 분류 작업에서 과도한 스무딩을 완화하기 위한 포괄적이고 적응형 그래프 업샘플링 접근법
초록

그래프 도메인에서 메시지 전달 신경망(MPNN) 또는 그래프 트랜스포머 기반의 딥 그래프 네트워크는 노드 특징의 과도한 평활화(over-smoothing)를 유발하는 경우가 많아 표현 능력에 한계를 겪는다. 이를 완화하기 위해 노드 및 에지 조작을 포함한 여러 업샘플링 기법이 제안되었으나, 이러한 방법들은 종종 방대한 수동 작업을 수반하여 최적의 성능을 내지 못하고, 보편적인 통합 전략을 갖추지 못하고 있다. 본 연구에서는 그래프 데이터를 위한 보편적이고 적응형 업샘플링 기법인 UniGAP을 제안한다. UniGAP은 기존의 대부분의 업샘플링 방법들을 변종으로 포함하는 보편적인 프레임워크를 제공하며, 기존 GNN에 플러그인 형태로 자연스럽고 적응적으로 통합되어 성능을 향상시키고 과도한 평활화 문제를 완화할 수 있다. 광범위한 실험을 통해 UniGAP은 다양한 데이터셋과 평가 지표에서 휴리스틱한 데이터 증강 방법보다 뚜렷한 성능 향상을 보였다. 또한, UniGAP 적용 시 그래프 구조의 변화를 분석하여 과도한 평활화가 발생하는 주요 병목 현상을 식별하고, UniGAP이 이 문제를 어떻게 해결하는지에 대한 통찰을 제공한다. 마지막으로, UniGAP을 대규모 언어 모델(LLM)과 결합함으로써 후속 작업 성능을 더욱 향상시킬 수 있는 잠재력을 보여준다. 본 연구의 코드는 다음 링크에서 공개되어 있다: https://github.com/wangxiaotang0906/UniGAP