DAGCN: Dual Attention Graph Convolutional Networks DAGCN: 듀얼 어텐션 그래프 컨볼루셔널 네트워크

그래프 컨볼루션 네트워크(GCNs)는 사회 네트워크, 자연어 처리, 생물정보학, 화학정보학 등 다양한 응용 분야에서 그래프 분석 작업을 수행하는 가장 강력한 도구 중 하나로 최근 주목받고 있습니다. 이는 그들이 개념 간의 복잡한 관계를 포착할 수 있는 능력 덕분입니다. 현재 대부분의 GCN은 이웃 집합 프레임워크를 사용하여 연속적이고 압축된 벡터를 학습한 후, 풀링(pulling) 연산을 통해 그래프 임베딩(graph embedding)을 일반화하여 분류 작업에 활용하고 있습니다. 이러한 접근 방식은 그래프 분류 작업에서 두 가지 단점을 가지고 있습니다: (1) 최대 하위 그래프 구조($k$-hop 이웃)만을 이웃 집합에 사용할 때, 그래프 컨볼루션 단계에서 초기 정보가 많이 손실됩니다; (2) 단순 평균/합 풀링 또는 최대 풀링(max pooling)이 사용되어 각 노드의 특성과 노드 간의 위상(topology)이 손실됩니다.본 논문에서는 이러한 문제들을 해결하기 위해 새로운 프레임워크인 듀얼 어텐션 그래프 컨볼루션 네트워크(Dual Attention Graph Convolutional Networks, DAGCN)를 제안합니다. DAGCN은 새로운 어텐션 그래프 컨볼루션 레이어를 통해 다른 거리(hop)의 이웃들의 중요성을 자동으로 학습하고, 이후에는 두 번째 어텐션 구성 요소인 자기 어텐션 풀링 레이어(self-attention pooling layer)를 사용하여 행렬 그래프 임베딩(matrix graph embedding)의 다양한 측면에서 그래프 표현을 일반화합니다. 듀얼 어텐션 네트워크는 그래프 분류 작업을 위해 엔드투엔드(end-to-end) 방식으로 학습됩니다. 우리는 제안된 모델을 최신 그래프 커널(graph kernels) 및 기타 딥러닝 방법들과 비교했습니다. 실험 결과는 우리의 프레임워크가 다른 기준 모델(baselines)보다 우수한 성능을 보이는 것뿐만 아니라 더 나은 수렴률(convergence rate)도 달성함을 보여줍니다.