초록
다변량 시계열 데이터 예측, 예를 들어 전력 소비, 태양광 발전량 및 다성음 피아노 연주곡의 예측은 많은 가치 있는 응용 분야가 있습니다. 그러나 시간 단계와 시계열 간의 복잡하고 비선형적인 상호 의존성이 이 작업을 복잡하게 만듭니다. 정확한 예측을 얻기 위해서는 시계열 데이터에서 장기 의존성을 모델링하는 것이 중요하며, 이는 주의 메커니즘(attention mechanism)을 사용한 순환 신경망(recurrent neural network, RNN)으로 어느 정도 달성할 수 있습니다. 일반적인 주의 메커니즘은 각 이전 시간 단계의 정보를 검토하고 관련 정보를 선택하여 출력 생성에 도움을 주지만, 여러 시간 단계에 걸친 시간적 패턴을 포착하지 못하는 한계가 있습니다. 본 논문에서는 시간 불변(time-invariant) 시간적 패턴을 추출하기 위해 필터 집합을 사용하는 방법을 제안합니다. 이는 시계열 데이터를 그 "주파수 영역(frequency domain)"으로 변환하는 것과 유사합니다. 그런 다음 새로운 주의 메커니즘을 제안하여 관련 시계열을 선택하고, 그 "주파수 영역" 정보를 활용하여 예측을 수행합니다. 제안된 모델을 여러 실제 작업에 적용한 결과, 하나의 예외를 제외하고 모든 작업에서 최신 기술(state-of-the-art) 성능을 달성했습니다.