Salva Rühling Cachay Miika Aittala Karsten Kreis Noah Brenowitz Arash Vahdat Morteza Mardani Rose Yu

摘要

扩散模型是概率预测中一种强大的工具，然而在高维混沌系统中的大多数应用仍采用逐帧预测未来状态的方式。这种常见方法难以捕捉复杂的时序依赖关系，也无法显式建模此类系统固有的不确定性随时间逐步增长的特性。尽管已有研究提出滚动扩散框架（rolling diffusion frameworks），通过在更长预测时距上逐步增加噪声来应对这一问题，但将其与当前最先进的高保真扩散技术相结合仍面临重大挑战。为此，我们提出了阐明式滚动扩散模型（Elucidated Rolling Diffusion Models, ERDM），这是首个成功将滚动预测结构与阐明式扩散模型（Elucidated Diffusion Models, EDM）所具备的严谨且高性能设计相统一的框架。为此，我们对EDM的核心组件——噪声调度（noise schedule）、网络预处理（network preconditioning）以及Heun采样器——进行了适配，使其适用于滚动预测场景。该融合的成功主要归功于三项关键贡献：（i）提出一种新颖的损失加权机制，使模型容量集中于从确定性向随机性过渡的中等预测时距区间；（ii）采用预训练EDM对初始预测窗口进行高效初始化；（iii）设计了一种专用的混合序列架构，以在逐步去噪过程中实现稳健的时空特征提取。在二维Navier-Stokes模拟以及1.5°分辨率的ERA5全球天气预报任务中，ERDM始终优于多个关键的基于扩散模型的基线方法，包括条件自回归EDM。ERDM为解决那些必须精准建模不确定性持续增长的扩散序列生成问题，提供了一个灵活而强大的通用框架。代码已公开，地址见：this https URL