VCformer: 다변량 시계열 예측을 위한 내재적 지연 상관관계를 갖는 변수 상관관계 트랜스포머

다변량 시계열(MTS) 예측은 기상 예측 및 에너지 소비와 같은 다양한 분야에 널리 적용되어 왔다. 그러나 기존 연구들은 여전히 변수 간 상관관계를 포착하기 위해 단순한 포인트와이즈 자기주의(point-wise self-attention) 메커니즘에 의존하고 있으며, 이는 변수 간에 내재된 복잡한 상관관계를 효과적으로 추출하기에 부족하다. 이러한 격차를 보완하기 위해, 본 연구에서는 변수 상관관계 자기주의(VCA, Variable Correlation Attention) 모듈을 활용하여 변수 간의 상관관계를 탐색하는 Variable Correlation Transformer(VCformer)를 제안한다. 구체적으로, 확률적 과정 이론(stochastic process theory)을 기반으로 VCA는 쿼리와 키 사이의 다양한 지연(lag)에 대응하는 교차상관 점수를 계산하고 통합함으로써, 다변량 관계를 보다 효과적으로 탐지할 수 있는 능력을 향상시킨다. 또한, Koopman 역학 이론(Koopman dynamics theory)에 영감을 받아, 시계열의 비정상성(non-stationarity)을 더 잘 다룰 수 있도록 Koopman 시계열 탐지기(KTD, Koopman Temporal Detector)도 개발하였다. 이 두 핵심 구성 요소는 VCformer가 다변량 상관관계와 시계열적 의존성을 동시에 추출할 수 있도록 한다. 실제 8개의 데이터셋을 대상으로 수행한 광범위한 실험 결과는 VCformer의 효과성을 입증하며, 기존 최첨단 기준 모델들과 비교해 최고 수준의 성능을 달성함을 보여준다. 코드는 다음 저장소에서 공개되어 있다: https://github.com/CSyyn/VCformer.