DyG2Vec: 동적 그래프의 효율적인 표현 학습

시간 그래프 신경망은 자동으로 시간적 패턴을 추출함으로써 귀납적 표현을 학습하는 데 유망한 결과를 보여주었습니다. 그러나 이전 연구들은 종종 복잡한 메모리 모듈이나 비효율적인 랜덤 워크 방법에 의존하여 시간적 표현을 구성하였습니다. 이러한 제한점을 해결하기 위해, 우리는 시간적 엣지 인코딩과 윈도우 기반 부분그래프 샘플링을 활용하여 작업 독립적인 임베딩을 생성하는 효율적이면서도 효과적인 주의기반 인코더를 제시합니다. 또한, 라벨이 없는 상태에서 풍부한 시간적 임베딩을 학습하기 위해 대조하지 않는 자기 감독 학습(Non-contrastive SSL)을 사용하는 공동 임베딩 아키텍처를 제안합니다. 7개의 벤치마크 데이터셋에 대한 실험 결과는 평균적으로 우리의 모델이 전도적 설정에서는 최신 기술(SoTA) 베이스라인보다 미래 링크 예측 작업에서 4.23% 우수하며, 귀납적 설정에서는 3.30% 우수함을 나타내며, 단지 5-10배 적은 훈련/추론 시간만 필요하다는 것을 보여줍니다. 마지막으로, 제안된 프레임워크의 다양한 측면은 실험 분석 및 아블레이션 연구를 통해 조사되었습니다. 코드는 공개적으로 https://github.com/huawei-noah/noah-research/tree/master/graph_atlas 에서 제공됩니다.