SlotGAT: Slot 기반 메시지 전달을 이용한 이종 그래프 신경망

이질 그래프는 복잡한 데이터를 모델링하는 데 널리 사용됩니다. 중요한 응용 프로그램을 효과적으로 지원하기 위해 강력한 이질 그래프 신경망에 대한 급박한 요구가 있습니다. 우리는 기존 메시지 전달 과정에서 잠재적인 의미 혼합 문제를 식별했습니다. 이 문제는 이웃 노드들이 서로 다른 유형임에도 불구하고, 노드 $v$의 피처 공간으로 변환되어 집계되는 것입니다. 즉, 서로 다른 노드 유형의 의미가 노드 $v$의 표현에 얽혀 있는 것입니다. 이 문제를 해결하기 위해, 각 노드 유형마다 슬롯을 두고 개별 메시지 전달 과정을 수행하여 해당 노드 유형의 피처 공간에서 표현을 유지하도록 하는 SlotGAT를 제안합니다. 또한, 슬롯 기반 메시지 전달 계층에서는 효과적인 슬롯별 메시지 집계를 위한 주의 메커니즘을 설계하였습니다. 더 나아가, SlotGAT의 마지막 계층 이후에 슬롯 주의 기술을 개발하여 다운스트림 작업에서 서로 다른 슬롯들의 중요성을 학습할 수 있도록 하였습니다. 우리의 분석은 SlotGAT의 슬롯들이 다양한 피처 공간에서 서로 다른 의미를 보존할 수 있음을 나타냅니다. Node classification과 link prediction을 위한 6개 데이터셋에서 13개 베이스라인과 비교하여 SlotGAT의 우수성이 평가되었습니다. 우리의 코드는 https://github.com/scottjiao/SlotGAT_ICML23/ 에서 확인할 수 있습니다.