エネルギーに基づくモデルのフロー対比推定

本論文では、エネルギーに基づくモデルとフローに基づくモデルを同時に推定するための学習手法を提案する。この手法では、両モデルが共有される敵対的価値関数に基づいて逐次更新される。この共同学習法には以下の特徴がある。(1) エネルギーに基づくモデルの更新は、ノイズ対比推定（Noise Contrastive Estimation, NCE）に基づいて行われ、フローモデルが強力なノイズ分布として機能する。(2) フローモデルの更新は、フローモデルとデータ分布の間のジェンセン・シャノン距離（Jensen-Shannon divergence）を近似的に最小化するものである。(3) 生成的敵対ネットワーク（GAN）が生成器モデルによって定義される非明示的確率分布を推定するのに対し、本手法はデータ上に明示的な確率分布を二つ推定する。提案手法を用いて、フローモデルの生成品質が著しく向上することを実証し、学習されたエネルギーに基づくモデルによる非教師あり特徴学習の有効性も示した。さらに、本学習法は半教師あり学習に容易に拡張可能であり、最先端の半教師あり学習手法と比較しても競争力のある結果を達成した。