一次生成対抗ネットワーク

GAN（Generative Adversarial Networks）は高次元分布の学習に優れていますが、目的関数の最急降下方向に対応しない方向でジェネレータのパラメータを更新することがあります。問題のある更新方向の代表的な例には、Goodfellowの元々のGANとWGAN-GPで使用されるものがあります。最適な更新方向を形式的に説明するために、ミニバッチ更新が最急降下方向に偏りなく行われることを保証するための、発散度とそれに基づく更新方向決定方法に関する要件を導出できる理論的枠組みを導入します。私たちは、ワッサーシタイン距離を近似しながら、クリティックの一次情報（first order information）を正則化する新しい発散度を提案します。この発散度と伴う更新方向は、偏りのない最急降下方向での更新を行うための要件を満たしています。私たちの手法であるFirst Order GANについて、CelebA、LSUN、CIFAR-10での画像生成とOne Billion Word言語生成タスクにおいて新たな最先端性能を達成したことを確認しました。実験を再現するためのコードが利用可能です。