3ヶ月前

改良されたノイズ除去拡散確率モデル

Alex Nichol, Prafulla Dhariwal
改良されたノイズ除去拡散確率モデル
要約

ノイズ除去拡散確率モデル(Denoising Diffusion Probabilistic Models; DDPM)は、近年優れたサンプルを生成することが示された生成モデルの一種である。本研究では、いくつかの簡単な修正を加えることで、DDPMが高品質なサンプルを維持しつつ、競争力のある対数尤度を達成できることを示した。さらに、逆方向拡散過程の分散を学習することで、サンプル生成に必要な前向きパス(forward passes)を1桁程度削減しつつ、サンプル品質の低下はほとんどないことが明らかになった。これは、これらのモデルの実用的導入において極めて重要な利点である。また、DDPMとGANの間で、ターゲット分布をどれだけ適切にカバーしているかを評価するために、精度(precision)と再現率(recall)を用いた比較を行った。最後に、これらのモデルのサンプル品質および尤度が、モデル容量および学習に要する計算量に応じて滑らかに向上することを示し、スケーラビリティの高さを確認した。コードは https://github.com/openai/improved-diffusion にて公開している。