2달 전

그래프 어텐션 네트워크

Petar Veličković; Guillem Cucurull; Arantxa Casanova; Adriana Romero; Pietro Liò; Yoshua Bengio
그래프 어텐션 네트워크
초록

우리는 그래프 어텐션 네트워크(GATs)를 제시합니다. 이는 그래프 구조 데이터에 작동하는 새로운 신경망 아키텍처로, 마스킹된 자기 어텐션 레이어를 활용하여 그래프 합성곱 또는 그 근사 기반의 이전 방법들의 단점을 해결합니다. 노드가 이웃 노드의 특징에 주목할 수 있는 레이어들을 쌓음으로써, 우리는 비용이 많이 드는 행렬 연산(예: 역행렬)을 필요로 하지 않으며, 사전에 그래프 구조를 알고 있어야 하는 의존성을 줄일 수 있습니다. 이를 통해 우리는 스펙트럼 기반 그래프 신경망의 여러 주요 도전 과제를 동시에 해결하고, 모델을 귀납적 문제와 연역적 문제 모두에 쉽게 적용할 수 있게 만들었습니다. 우리의 GAT 모델은 Cora, CiteSeer, Pubmed 인용 네트워크 데이터셋과 단백질-단백질 상호작용 데이터셋(훈련 중 테스트 그래프가 보이지 않는 경우)에서 최신 연구 결과와 동등하거나 우수한 성능을 달성했습니다.