15일 전

GraphMix: 반감독 학습을 위한 GNN의 향상된 훈련

Vikas Verma, Meng Qu, Kenji Kawaguchi, Alex Lamb, Yoshua Bengio, Juho Kannala, Jian Tang
GraphMix: 반감독 학습을 위한 GNN의 향상된 훈련
초록

우리는 그래프 신경망 기반의 반감독 학습 객체 분류를 위한 정규화 방법인 GraphMix를 제안한다. 본 방법은 그래프 신경망과 완전 연결 네트워크를 파라미터 공유 및 보간 기반 정규화를 통해 공동으로 학습하도록 제안한다. 또한, 그래프 신경망의 일반화 한계를 개선하는 방식에 대해 이론적으로 분석하였으며, 이는 '집계(aggregation)' 계층에 대한 어떠한 가정도 하지 않고, 그래프 신경망의 깊이에 대한 가정도 필요 없이 성립함을 보였다. 실험적으로 GraphMix를 그래프 컨볼루션 네트워크(Graph Convolutional Networks), 그래프 어텐션 네트워크(Graph Attention Networks), 그래프-U-Net 등 다양한 아키텍처에 적용하여 이 분석을 검증하였다. 단순한 구조임에도 불구하고, GraphMix는 Cora, Citeseer, Pubmed 등 기존의 세 가지 표준 그래프 벤치마크와 새로 제안된 세 가지 데이터셋인 Cora-Full, Co-author-CS, Co-author-Physics에서 기존의 최고 성능을 일관되게 향상시키거나 근접한 성능을 달성함을 입증하였다.

GraphMix: 반감독 학습을 위한 GNN의 향상된 훈련 | 최신 연구 논문 | HyperAI초신경