초록
어텐션 연산자는 컴퓨터 비전, 자연어 처리, 네트워크 임베딩 학습 등 다양한 분야에서 널리 적용되고 있습니다. 그래프 데이터에 대한 어텐션 연산자는 인접 노드로부터 정보를 집계할 때 학습 가능한 가중치를 제공합니다. 그러나 그래프 어텐션 연산자(GAO)는 과도한 계산 자원을 소비하여 큰 규모의 그래프에서의 응용을 방해하고 있습니다. 또한, GAO는 하드 어텐션 대신 소프트 어텐션에 속하며, 하드 어텐션이 더 나은 성능을 나타내는 것으로 알려져 있습니다. 본 연구에서는 새로운 하드 그래프 어텐션 연산자(hGAO)와 채널별 그래프 어텐션 연산자(cGAO)를 제안합니다. hGAO는 중요한 노드만 주목하는 하드 어텐션 메커니즘을 사용하여, GAO와 비교해 성능 향상과 계산 비용 절감을 simultaneously 실현합니다( simultaneity ). 채널별로 어텐션 연산을 수행하여 계산 자원 요구를 더욱 줄이기 위해 cGAO를 제안합니다. cGAO는 인접 행렬에 의존하지 않아서, 계산 자원 요구가 크게 감소합니다. 실험 결과는 제안된 새로운 연산자를 사용한 딥 모델이 일관되게 더 나은 성능을 보이는 것을 입증하였습니다. 비교 결과는 hGAO가 노드 및 그래프 임베딩 작업에서 GAO보다 유의미하게 더 나은 성능을 나타냄을 보여주며, 효율성 비교에서는 cGAO가 계산 자원 절약 면에서 큰 효과를 가져와 큰 규모의 그래프에서도 적용 가능함을 확인하였습니다.