공간-시간 분리형 마스킹 사전 학습을 통한 공간-시간 예측

공간-시간 예측 기술은 교통, 에너지, 기상 등 다양한 분야에서 중요한 역할을 한다. 복잡한 공간-시간 이질성으로 인해 공간-시간 시계열의 정확한 예측은 여전히 도전 과제로 남아 있다. 특히 현재의 엔드투엔드 모델은 입력 길이의 제한으로 인해 공간-시간 오류(mirage)에 빠지기 쉽다. 즉, 유사한 입력 시계열이지만 미래 값이 다를 경우 또는 반대의 경우가 발생하는 현상이다. 이러한 문제를 해결하기 위해, 공간 및 시간 차원에 따라 분리된 마스킹 자동부호기(Masked Autoencoder) 두 개를 활용하여 공간-시간 시계열을 재구성하는 새로운 자기지도 학습 사전 훈련 프레임워크인 공간-시간 분리형 마스킹 사전 훈련(Spatial-Temporal-Decoupled Masked Pre-training, STD-MAE)을 제안한다. 이러한 재구성 과정을 통해 학습된 � бог rich-context 표현은 다양한 아키텍처를 가진 하류 예측 모델에 원활하게 통합되어 성능을 향상시킬 수 있다. STD-MAE의 최신 기술 수준 성능을 검증하기 위해, 널리 사용되는 여섯 가지 벤치마크(PeMS03, PeMS04, PeMS07, PeMS08, METR-LA, PeMS-BAY)에서 정량적 및 정성적 평가를 수행하였다. 코드는 https://github.com/Jimmy-7664/STD-MAE 에서 확인할 수 있다.