11日前
条件付きスコアベースデータ生成のためのノイズ除去尤度スコアマッチング
Chen-Hao Chao, Wei-Fang Sun, Bo-Wun Cheng, Yi-Chen Lo, Chia-Che Chang, Yu-Lun Liu, Yu-Lin Chang, Chia-Ping Chen, Chun-Yi Lee

要約
既存の条件付きスコアベースデータ生成手法の多くは、ベイズの定理を用いて対数事後密度の勾配をスコアの混合形に分解する。このアプローチにより、条件付きスコアモデルの学習プロセスが容易になる。なぜなら、スコアモデルと分類器を別々に用いてスコアの混合を推定できるからである。しかし、本研究の分析から、これらの手法における分類器の学習目的が深刻なスコア不一致(score mismatch)問題を引き起こす可能性があることが明らかになった。この問題とは、推定されたスコアが真のスコアから大きく逸脱する状況を指す。このような不一致は、拡散過程においてサンプルが誤ったスコアに誘導される原因となり、結果としてサンプリング品質が低下する。この問題を解決するために、我々は新たな学習目的を提案する。これを「ノイズ除去尤度スコアマッチング(Denoising Likelihood Score Matching: DLSM)損失」と呼ぶ。この損失関数は、分類器が真の対数尤度密度の勾配を正確に再現するように学習することを目的としている。実験結果によると、CIFAR-10およびCIFAR-100のベンチマークにおいて、提案手法は従来手法を顕著に上回る性能を示した。これにより、DLSMを採用することで、条件付きスコアを正確にモデル化でき、スコア不一致の影響が著しく軽減されることを結論づけた。