17일 전

자기지도형 대조 학습을 활용한 장기 예측

Junwoo Park, Daehoon Gwak, Jaegul Choo, Edward Choi
자기지도형 대조 학습을 활용한 장기 예측
초록

장기 예측은 긴 시계열 데이터를 처리할 때 시간과 메모리 복잡도가 높아 고유한 도전 과제를 안고 있다. 기존의 방법들은 긴 시계열을 처리하기 위해 슬라이딩 윈도우를 활용하지만, 이는 단기 윈도우 내에 일부 포함된 장기적 변동성(즉, 윈도우 외부 변동성)을 효과적으로 포착하는 데 한계가 있다. 본 논문에서는 대조 학습(contrastive learning)과 개선된 분해 아키텍처를 활용하여 이러한 한계를 극복하는 새로운 접근법을 제안한다. 이는 특히 장기적 변동성을 집중적으로 분석하도록 설계되었다. 구체적으로, 우리의 대조 손실은 전체 시계열에 포함된 전역 자기상관(Global Autocorrelation)을 반영하여, 자율학습(self-supervised) 방식으로 긍정 쌍과 부정 쌍을 구성할 수 있도록 한다. 이러한 대조 학습은 분해 네트워크와 결합될 때 장기 예측 성능을 크게 향상시킨다. 광범위한 실험 결과, 본 연구의 접근법은 9개의 장기 예측 벤치마크에서 14개의 기준 모델을 초월하며, 특히 예측 출력 길이가 매우 긴 어려운 시나리오에서 뛰어난 성능을 보였다. 소스 코드는 다음 링크에서 확인할 수 있다: https://github.com/junwoopark92/Self-Supervised-Contrastive-Forecasting.