Salva Rühling Cachay Miika Aittala Karsten Kreis Noah Brenowitz Arash Vahdat Morteza Mardani Rose Yu

要約

拡散モデルは確率的予測において強力なツールであるが、高次元のカオス的システムにおける大多数の応用は、未来の状態を1ステップずつ逐次的に予測するという手法に依存している。この一般的なアプローチは、複雑な時系列依存性を適切にモデル化できず、こうしたシステムに内在する不確実性の進行的増大を明示的に扱うこともできない。長時間予測における予測値に段階的にノイズを加える「ローリング拡散フレームワーク」は、この問題に対処するための提案として導入されているが、最先端の高精度拡散手法とその統合は依然として大きな課題である。本研究では、ローリング予測構造と、明確な理論的根拠と高い性能を備えた「明示的拡散モデル（Elucidated Diffusion Models, EDM）」の設計を初めて成功裏に統合するフレームワークである「明示的ローリング拡散モデル（Elucidated Rolling Diffusion Models, ERDM）」を提案する。この実現のため、EDMの中心的要素であるノイズスケジュール、ネットワーク前処理、およびヘン法（Heun sampler）をローリング予測の設定に適応した。本統合の成功は、以下の3つの主要な貢献に起因する：(i) 確定論的から確率論的へと移行する中間予測期間にモデルの表現能力を集中させる新しい損失重み付け方式；(ii) 初期予測ウィンドウの効率的な初期化戦略として、事前学習済みEDMを活用する手法；(iii) 漸進的なノイズ除去下でも堅牢な空間時系列特徴抽出を可能にする独自のハイブリッドシーケンスアーキテクチャ。2次元ナビエ-ストークスシミュレーションおよび1.5°解像度でのERA5全球気象予測において、ERDMは、条件付き自己回帰型EDMを含む主要な拡散ベースのベースラインを一貫して上回る性能を示した。ERDMは、不確実性の急激な増大をモデル化することが不可欠な拡散ベースの時系列生成問題に対して、柔軟かつ強力な汎用フレームワークを提供する。コードは以下のURLから入手可能：this https URL