17일 전

RPMixer: 대규모 공간-시계열 데이터를 위한 무작위 투영을 활용한 시계열 예측의 혁신

Chin-Chia Michael Yeh, Yujie Fan, Xin Dai, Uday Singh Saini, Vivian Lai, Prince Osei Aboagye, Junpeng Wang, Huiyuan Chen, Yan Zheng, Zhongfang Zhuang, Liang Wang, Wei Zhang
RPMixer: 대규모 공간-시계열 데이터를 위한 무작위 투영을 활용한 시계열 예측의 혁신
초록

공간-시간 예측 시스템은 다양한 실제 문제 해결에 핵심적인 역할을 한다. 본 논문에서는 노드 간 공간적 관계를 활용하지 않는 일반적인 시계열 예측 모델을 활용하여 공간-시간 예측 문제를 해결할 수 있는 잠재력을 탐구한다. 우리는 전체적으로 다층 퍼셉트론(All-Multi-Layer Perceptron, all-MLP) 아키텍처를 기반으로 한 새로운 시계열 예측 모델인 RPMixer를 제안한다. 최근 시계열 예측 벤치마크에서 뛰어난 성과를 보인 all-MLP 아키텍처를 선택한 이유는, 이 구조가 시계열 데이터에 대해 높은 표현 능력을 갖추고 있기 때문이다. 또한 본 연구에서는 깊은 신경망의 앙상블 유사한 성질을 활용한다. 즉, 정체성 매핑(identity mapping) 잔차 연결을 도입할 경우, 네트워크 내 각 개별 블록이 앙상블 모델의 기본 학습기(base learner)처럼 작용하게 된다. 본 모델에 무작위 투영(random projection) 레이어를 통합함으로써, 블록 간 출력의 다양성을 증가시켜 전체 네트워크의 성능을 향상시켰다. 공간-시간 예측 벤치마크 중 가장 큰 데이터셋을 대상으로 수행한 광범위한 실험 결과, 제안된 방법이 공간-시간 그래프 모델과 일반 시계열 예측 모델을 포함한 다양한 대안 모델들을 모두 상회함을 입증하였다.

RPMixer: 대규모 공간-시계열 데이터를 위한 무작위 투영을 활용한 시계열 예측의 혁신 | 최신 연구 논문 | HyperAI초신경