17日前
ブラックアウト・ディフュージョン:離散状態空間における生成的ディフュージョンモデル
Javier E Santos, Zachary R. Fox, Nicholas Lubbers, Yen Ting Lin

要約
一般的な生成的拡散モデルは、逆方向変換の学習にガウス拡散過程を用いるが、これによりガウスノイズからサンプルを生成することが可能となる。しかし、現実世界のデータは多くの科学的応用において離散状態空間に存在する場合が多く、このような状況に対応する必要がある。本研究では、前向き拡散過程における任意の離散状態マルコフ過程について、変分的手法ではなく厳密な(exact)解析を用いた理論的枠組みを構築する。この理論を既存の連続状態ガウス拡散モデルおよび他の離散拡散アプローチと関連づけ、連続時間設定における逆時系列確率過程およびスコア関数、離散時間設定における逆時系列写像を明らかにする。本フレームワークの具体例として、「Blackout Diffusion」と呼ばれる手法を提案する。これはノイズからではなく、空の画像(ブラックアウト画像)からサンプルを生成するように学習するものである。CIFAR-10、バイナリ化MNIST、CelebAの各データセットに対する数値実験により、本手法の有効性が確認された。変分近似を用いない特定の(ガウス型)前向き過程から離散状態過程への一般化は、拡散モデルの解釈に新たな視点を提供するものであり、その意義についても議論する。