17일 전

다변량 시계열 예측을 위한 사전 훈련 강화된 공간-시간 그래프 신경망

Zezhi Shao, Zhao Zhang, Fei Wang, Yongjun Xu
다변량 시계열 예측을 위한 사전 훈련 강화된 공간-시간 그래프 신경망
초록

다변량 시계열(Multivariate Time Series, MTS) 예측은 다양한 응용 분야에서 핵심적인 역할을 한다. 최근 들어 공간-시간 그래프 신경망(Spatial-Temporal Graph Neural Networks, STGNNs)은 MTS 예측 분야에서 점점 더 인기를 끌고 있다. STGNNs는 그래프 신경망과 순차 모델을 결합하여 MTS의 공간적 패턴과 시간적 패턴을 동시에 모델링함으로써 예측 정확도를 크게 향상시킨다. 그러나 모델 복잡도의 제약으로 인해 대부분의 STGNNs는 단기 과거 MTS 데이터(예: 지난 1시간 데이터)만 고려한다. 그러나 시계열의 패턴과 그들 간의 종속성(즉, 시간적 및 공간적 패턴)을 정확히 분석하기 위해서는 장기 과거 MTS 데이터를 기반으로 분석이 필요하다. 이 문제를 해결하기 위해, 우리는 확장 가능한 시계열 사전학습 모델(Scalable Time series Pre-training model, STEP)을 통해 STGNN을 강화하는 새로운 프레임워크를 제안한다. 구체적으로, 매우 장기적인 과거 시계열 데이터(예: 지난 2주간의 데이터)로부터 효율적으로 시간적 패턴을 학습하고 세그먼트 수준의 표현을 생성하는 사전학습 모델을 설계하였다. 이러한 표현은 STGNN에 입력되는 단기 시계열 데이터에 대한 맥락 정보를 제공하며, 시계열 간 종속성 모델링을 촉진한다. 공개된 세 가지 실제 세계 데이터셋을 대상으로 한 실험 결과, 제안하는 프레임워크가 하류 STGNN의 성능을 크게 향상시킬 수 있음을 입증하였으며, 사전학습 모델이 시간적 패턴을 적절히 포착함을 확인하였다.

다변량 시계열 예측을 위한 사전 훈련 강화된 공간-시간 그래프 신경망 | 최신 연구 논문 | HyperAI초신경