17日前

部分空間拡散生成モデル

Bowen Jing, Gabriele Corso, Renato Berlinghieri, Tommi Jaakkola
部分空間拡散生成モデル
要約

スコアベースモデルは、高次元の拡散過程を介してノイズをデータ(およびその逆)に写像することによりサンプルを生成する。本研究では、この拡散プロセスを完全に高次元で実行し、それに伴うすべての課題を負担する必要があるかを検証する。代わりに、データ分布がノイズへと進化する過程において、部分空間への射影によって拡散を制約するアプローチを採用する。最先端モデルに適用した結果、本フレームワークはサンプルの品質を向上させるとともに、同一のノイズ除去ステップ数において推論の計算コストを低減することに成功した。CIFAR-10における非条件生成において、FIDスコアは2.17まで改善された。本フレームワークは連続時間拡散モデルと完全に互換性があり、正確な対数尤度の計算や制御可能な生成といった柔軟な機能を維持している。コードは以下のURLで公開されている:https://github.com/bjing2016/subspace-diffusion。

部分空間拡散生成モデル | 最新論文 | HyperAI超神経