17일 전
STAEformer: 공간-시간 적응형 임베딩이 보통 Transformer를 교통 예측에서 SOTA로 만든다
Hangchen Liu, Zheng Dong, Renhe Jiang, Jiewen Deng, Jinliang Deng, Quanjun Chen, Xuan Song

초록
지능형 교통 시스템(ITS)의 급속한 발전에 따라 정확한 교통 예측은 핵심적인 과제로 부상하고 있다. 이 문제의 핵심적 난제는 복잡한 공간-시간 교통 패턴을 효과적으로 포착하는 데 있다. 최근 들어, 이러한 문제를 해결하기 위해 다양한 복잡한 아키텍처를 갖춘 신경망이 다수 제안되었으나, 네트워크 아키텍처의 발전은 점차 성능 향상의 한계에 부딪히고 있다. 본 연구에서는 단순한 트랜스포머(Transformer) 구조에서도 뛰어난 성능을 발휘할 수 있는 새로운 구성 요소인 공간-시간 적응형 임베딩(spatio-temporal adaptive embedding)을 제안한다. 제안하는 공간-시간 적응형 임베딩 트랜스포머(STAEformer)는 다섯 개의 실제 교통 예측 데이터셋에서 최첨단 성능을 달성하였다. 추가 실험을 통해 공간-시간 적응형 임베딩이 교통 시계열 데이터 내부의 본질적인 공간-시간 관계와 시계적 정보를 효과적으로 포착함으로써 교통 예측에 핵심적인 역할을 함을 입증하였다.