17일 전

STAEformer: 공간-시간 적응형 임베딩이 보통 Transformer를 교통 예측에서 SOTA로 만든다

Hangchen Liu, Zheng Dong, Renhe Jiang, Jiewen Deng, Jinliang Deng, Quanjun Chen, Xuan Song
STAEformer: 공간-시간 적응형 임베딩이 보통 Transformer를 교통 예측에서 SOTA로 만든다
초록

지능형 교통 시스템(ITS)의 급속한 발전에 따라 정확한 교통 예측은 핵심적인 과제로 부상하고 있다. 이 문제의 핵심적 난제는 복잡한 공간-시간 교통 패턴을 효과적으로 포착하는 데 있다. 최근 들어, 이러한 문제를 해결하기 위해 다양한 복잡한 아키텍처를 갖춘 신경망이 다수 제안되었으나, 네트워크 아키텍처의 발전은 점차 성능 향상의 한계에 부딪히고 있다. 본 연구에서는 단순한 트랜스포머(Transformer) 구조에서도 뛰어난 성능을 발휘할 수 있는 새로운 구성 요소인 공간-시간 적응형 임베딩(spatio-temporal adaptive embedding)을 제안한다. 제안하는 공간-시간 적응형 임베딩 트랜스포머(STAEformer)는 다섯 개의 실제 교통 예측 데이터셋에서 최첨단 성능을 달성하였다. 추가 실험을 통해 공간-시간 적응형 임베딩이 교통 시계열 데이터 내부의 본질적인 공간-시간 관계와 시계적 정보를 효과적으로 포착함으로써 교통 예측에 핵심적인 역할을 함을 입증하였다.