초록
공간시적 데이터는 일상적으로 존재하며, 다양한 분야에서 예측에 중요한 응용 가치를 지닌다. 그러나 이러한 데이터는 복잡한 구성 요소 간 상호의존성과 비선형적 시계열 동역학을 지녀 전통적인 기법으로는 처리하기 어려운 경우가 많다. 기존의 방법들은 이러한 문제를 해결하기 위해 공간적 및 시계열적 차원을 별도로 학습하는 방식을 채택하고 있다. 본 연구에서는 공간시적 상관관계를 동시에 모델링할 수 있는 Transformer 기반의 접근법인 Temporal Graphormer(T-Graphormer)를 제안한다. Graphormer 아키텍처에 시계열 인코딩을 추가함으로써, 각 노드는 그래프 시퀀스 내 모든 다른 토큰에 주목할 수 있게 되어, 최소한의 사전 정의된 유도 편향(inductive biases)으로도 풍부한 공간시적 패턴을 학습할 수 있다. 제안한 T-Graphormer의 효과성은 실제 교통 예측 벤치마크 데이터셋을 통해 입증되었으며, 최신 기술 대비 루트 평균 제곱 오차(RMSE)와 평균 절대 백분율 오차(MAPE)를 각각 최대 20%, 10%까지 감소시켰다.