BEAT: 장기 시계열 예측을 위한 균형 잡힌 주파수 적응 조정

시계열 예측은 날씨 예보와 금융 시장 모델링을 포함한 다양한 실제 응용 분야에서 중요합니다. 시간 영역 방법이 여전히 널리 사용되고 있지만, 주파수 영역 접근법은 다중 스케일 주기적 패턴을 효과적으로 포착하고, 시퀀스 의존성을 줄이며, 신호를 자연스럽게 잡음 제거할 수 있습니다. 그러나 기존 접근법들은 일반적으로 모든 주파수에 대해 통합된 학습 목표 하에 모델 구성 요소를 훈련시키는 경우가 많아 학습 속도의 불일치를 초래합니다. 고주파수 구성 요소는 빠르게 수렴하여 과적합 위험이 있으며, 저주파수 구성 요소는 충분한 훈련 시간 부족으로 인해 적합되지 않는 문제가 발생합니다. 이러한 도전 과제를 해결하기 위해, 우리는 BEAT (Balanced frEquency Adaptive Tuning)라는 새로운 프레임워크를 제안합니다. BEAT는 각 주파수의 훈련 상태를 동적으로 모니터링하고 그 그래디언트 업데이트를 적응적으로 조정합니다. 각 주파수가 수렴, 과적합 또는 적합되지 않는지를 인식함으로써, BEAT는 학습 우선순위를 동적으로 재할당하여 빠른 학습자에게 그래디언트를 완화시키고 느린 학습자에게는 증가시키며, 주파수 간 경쟁 목표 사이의 긴장을 완화하고 전체 학습 과정을 동기화합니다. 일곱 개의 실제 데이터셋에 대한 광범위한 실험 결과 BEAT가 최신 접근법들을 일관되게 능가한다는 것을 보여주었습니다.