Hao Chen Han Tao Guo Song Jie Zhang Yunlong Yu Yonghan Dong Lei Bai

摘要

本文提出了一种名为变量自适应专家混合模型（Variables Adaptive Mixture of Experts, VAMoE）的新型增量式天气预报框架，能够实时动态适应实际数据中不断演变的时空模式。传统天气预测模型通常面临计算开销巨大，且需在新观测数据不断输入时持续更新预报结果的挑战。VAMoE通过采用专家混合的混合架构加以应对，其中每个专家专门负责捕捉大气变量（如温度、湿度、风速）的不同子模式。此外，该方法引入了一种变量自适应门控机制，可根据输入上下文动态选择并组合相关专家，从而实现高效的知识蒸馏与参数共享。这一设计显著降低了计算开销，同时保持了高精度的预测性能。在真实世界ERA5数据集上的实验表明，VAMoE在短期（1天）和长期（5天）天气预报任务中均达到与当前最先进（SoTA）模型相当的性能，且仅需约25%的可训练参数和50%的初始训练数据。