2달 전
GraphSAINT: 그래프 샘플링 기반의 귀납적 학습 방법
Hanqing Zeng; Hongkuan Zhou; Ajitesh Srivastava; Rajgopal Kannan; Viktor Prasanna

초록
그래프 컨볼루션 네트워크(GCNs)는 속성 그래프의 표현을 학습하는 데 강력한 모델입니다. 대규모 그래프에 GCNs를 확장하기 위해, 최신 방법들은 미니배치 훈련 중 "이웃 폭발" 문제를 완화하기 위해 다양한 계층 샘플링 기술을 사용합니다. 우리는 훈련 효율성과 정확성을 근본적으로 다르게 개선하는 그래프 샘플링 기반의 유도 학습 방법인 GraphSAINT를 제안합니다. 관점을 바꾸어, GraphSAINT는 노드나 엣지를 GCN 계층 간에 샘플링하는 대신 훈련 그래프에서 미니배치를 구성합니다. 각 반복마다 적절히 샘플링된 서브그래프로부터 완전한 GCN을 구축하므로 모든 계층에서 고정된 수의 잘 연결된 노드를 보장할 수 있습니다. 또한, 우리는 편향을 제거하기 위한 정규화 기법과 분산 감소를 위한 샘플링 알고리즘을 제안합니다. 중요한 점은, 샘플링 과정을 전방 및 후방 전파와 분리할 수 있으며, GraphSAINT는 여러 아키텍처 변형(예: 그래프 어텐션, 점핑 연결)으로 확장될 수 있다는 것입니다. GraphSAINT는 다섯 개의 대규모 그래프에서 정확성과 훈련 시간 모두에서 우수한 성능을 보여주며, PPI(0.995)와 Reddit(0.970)에서 새로운 최고 수준의 F1 점수를 달성했습니다.