3ヶ月前

SA-Solver:拡散モデルの高速サンプリングのための確率的アダムソルバー

Shuchen Xue, Mingyang Yi, Weijian Luo, Shifeng Zhang, Jiacheng Sun, Zhenguo Li, Zhi-Ming Ma
SA-Solver:拡散モデルの高速サンプリングのための確率的アダムソルバー
要約

拡散確率モデル(Diffusion Probabilistic Models, DPMs)は、生成タスクにおいて顕著な成果を上げている。DPMからのサンプリングは、拡散確率微分方程式(SDE)または常微分方程式(ODE)を解くことに相当するが、その計算コストが高いため、高速化を目的とした改良型微分方程式ソルバーに基づく多数の高速サンプリング手法が提案されている。これらの手法の多くは、計算効率の優れた拡散ODEを解くアプローチを採用している。一方で、確率的サンプリングは、多様性と高品質なデータ生成において追加の利点を提供する可能性がある。本研究では、2つの観点から確率的サンプリングの包括的な分析を行う:制御された分散を有する拡散SDEと、線形多段階SDEソルバー。本分析に基づき、高品質なデータ生成を目的とした、拡散SDEを解くための改良型効率的確率的アダムス法である\textit{SA-Solver}を提案する。実験の結果、\textit{SA-Solver}は以下の成果を達成した:1)少数ステップでのサンプリングにおいて、既存の最先端(SOTA)手法と比較して性能が向上または同等である;2)適切な関数評価回数(NFE)条件下で、多数のベンチマークデータセットにおいてSOTAのFIDスコアを達成した。コードはhttps://github.com/scxue/SA-Solverにて公開されている。