2달 전

Semi-Supervised Learning을 위한 Graph Convolutional Networks에 대한 깊은 통찰력

Qimai Li; Zhichao Han; Xiao-Ming Wu
Semi-Supervised Learning을 위한 Graph Convolutional Networks에 대한 깊은 통찰력
초록

기계 학습 분야에서 많은 흥미로운 문제들이 새로운 딥 러닝 도구를 통해 재검토되고 있습니다. 그래프 기반의 준지도 학습에 있어서 최근 중요한 발전은 그래프 컨볼루션 네트워크(GCNs)입니다. 이 모델은 로컬 정점 특성과 그래프 위상을 컨볼루션 계층에서 효과적으로 통합하여 주목받고 있습니다. 그러나 GCN 모델이 다른 최신 방법들과 비교하여 우수한 성능을 보이는 반면, 그 메커니즘은 명확하지 않으며 여전히 검증 및 모델 선택을 위해 상당량의 라벨링된 데이터가 필요합니다.본 논문에서는 GCN 모델에 대한 더 깊은 이해를 제공하고 그 근본적인 한계를 해결하기 위해 노력하였습니다. 첫째, GCN 모델의 그래프 컨볼루션이 실제로는 라플라시안 스무딩(Laplacian smoothing)의 특수 형태임을 보였습니다. 이는 GCN이 작동하는 주요 이유이지만, 많은 컨볼루션 계층을 사용할 경우 과도한 스무딩(over-smoothing) 문제가 발생할 수 있다는 잠재적인 우려도 제기합니다. 둘째, 얕은 구조를 가진 GCN 모델의 한계를 극복하기 위해 공학습(co-training) 및 자기 학습(self-training) 접근법을 제안하였습니다. 우리의 접근법은 매우 적은 라벨로 학습하는 경우 GCN의 성능을 크게 향상시키며, 검증을 위한 추가적인 라벨링된 데이터 요구사항을 면제시킵니다. 벤치마크 데이터셋에 대한 광범위한 실험 결과가 우리의 이론과 제안 사항들을 검증하였습니다.

Semi-Supervised Learning을 위한 Graph Convolutional Networks에 대한 깊은 통찰력 | 최신 연구 논문 | HyperAI초신경