2달 전

주목기반 그래프 신경망을 이용한 이질적 구조 학습

Huiting Hong; Hantao Guo; Yucheng Lin; Xiaoqing Yang; Zang Li; Jieping Ye
주목기반 그래프 신경망을 이용한 이질적 구조 학습
초록

본 논문에서는 다양한 유형의 정점이 다양한 유형의 관계로 연결된 이질적 정보 네트워크(HIN)의 그래프 표현 학습에 초점을 맞춥니다. 기존의 대부분 HIN 관련 연구는 메타-경로를 통해 동질적 그래프 임베딩 모델을 수정하여 HIN의 저차원 벡터 공간을 학습하였습니다. 본 논문에서는 메타-경로 없이 HIN의 구조적 정보를 직접 인코딩하여 더 많은 정보를 포함하는 표현을 얻기 위한 새로운 이질적 그래프 구조적 주목력 신경망(HetSANN, Heterogeneous Graph Structural Attention Neural Network)을 제안합니다. 이 방법을 사용하면 도메인 전문가가 메타-경로 설계를 수행할 필요가 없으며, 제안한 모델이 자동으로 이질적 정보를 처리할 수 있습니다. 특히, 다음과 같은 두 가지 방법을 통해 이질적 정보를 암시적으로 표현합니다: 1) 저차원 엔티티 공간에서의 투사를 통해 이질적 정점 간의 변환을 모델링합니다; 2) 그 다음, 그래프 신경망을 주목력 메커니즘을 활용하여 투사된 근방의 다중 관계 정보를 집계하는데 적용합니다. 또한, HetSANN의 세 가지 확장을 제시합니다: 즉, HIN 내 쌍별 관계에 대한 음성 공유 제품 주목력(voices-sharing product attention), 이질적 엔티티 공간 간 변환 유지용 순환 일관성 손실(cycle-consistency loss), 그리고 정보를 최대한 활용하는 다중 작업 학습(multi-task learning)입니다. 세 개의 공개 데이터셋에서 수행한 실험은 제안한 모델들이 최신 기술 대비 상당하고 일관된 개선 효과를 보임을 입증하였습니다.

주목기반 그래프 신경망을 이용한 이질적 구조 학습 | 최신 연구 논문 | HyperAI초신경