Hao Chen Han Tao Guo Song Jie Zhang Yunlong Yu Yonghan Dong Lei Bai

초록

이 논문은 실시간 데이터에서 변화하는 공간시계적 패턴에 동적으로 대응할 수 있는 증분 기상 예측을 위한 새로운 프레임워크인 가변 적응형 전문가 혼합(Variables Adaptive Mixture of Experts, VAMoE)을 제안한다. 기존의 기상 예측 모델은 높은 계산 비용과 새로운 관측 데이터가 도착함에 따라 예측을 지속적으로 업데이트해야 하는 문제를 겪는 경우가 많다. VAMoE는 각 전문가가 대기 변수(온도, 습도, 풍속 등)의 서로 다른 하위 패턴을 특화하여 포착할 수 있도록 하는 하이브리드 전문가 아키텍처를 활용함으로써 이러한 과제를 해결한다. 또한 제안된 방법은 입력 맥락에 따라 관련 전문가를 동적으로 선택하고 조합하는 가변 적응형 게이팅 메커니즘을 도입하여 효율적인 지식 전이와 파라미터 공유를 가능하게 한다. 이러한 설계는 계산 부담을 크게 감소시키면서도 높은 예측 정확도를 유지한다. 실제 세계의 ERA5 데이터셋을 대상으로 수행한 실험 결과, VAMoE는 단기(1일) 및 장기(5일) 예측 과제에서 최첨단(SoTA) 모델들과 비견 가능한 성능을 보였으며, 학습 가능한 파라미터는 약 25%, 초기 학습 데이터는 약 50%만을 사용하였다.