Hao Chen Han Tao Guo Song Jie Zhang Yunlong Yu Yonghan Dong Lei Bai

要約

本稿では、リアルタイムデータにおける変化する空間時系列パターンに動的に適応できる、新たなインクリメンタル気象予測フレームワークである「変数適応型エキスパート混合モデル（Variables Adaptive Mixture of Experts, VAMoE）」を提案する。従来の気象予測モデルは、膨大な計算負荷と、新たな観測データの到着に伴う予測の継続的更新という課題に直面している。VAMoEは、各エキスパートが気象変数（温度、湿度、風速など）の異なるサブパターンに特化するハイブリッドエキスパートアーキテクチャを活用することで、これらの課題を克服する。さらに、入力の文脈に応じて関連するエキスパートを動的に選択・統合する「変数適応型ゲーティング機構」を採用することで、効率的な知識蒸留とパラメータ共有を実現している。この設計により、計算負荷を大幅に低減しつつ、高い予測精度を維持することが可能となる。実世界のERA5データセットを用いた実験により、VAMoEは短期予測（1日先）および長期予測（5日先）の両タスクにおいて、最先端モデル（SoTA）と同等の性能を発揮することが確認された。しかも、学習可能なパラメータ数は約25%、初期学習データ量は約50%にまで削減されている。