
要約
生成対抗ネットワーク(GANs)における性能向上のための一般的なヒューリスティックとして、識別器に何らかの勾配ペナルティを導入する手法が広く用いられている。この勾配ペナルティは、当初、ワッサーシュタイン距離の定式化に基づいて提案されたものである。しかしながら、他のGANの定式化において勾配ペナルティを導入する根拠は十分に説明されていない。本研究では、期待マージン最大化の統一的枠組みを提示し、ワッサーシュタインGAN、標準GAN、最小二乗GAN、ヘンジGANなど、広範な勾配ペナルティ付きGANがこの枠組みから導出可能であることを示す。本研究の結果から、勾配ペナルティを導入することで、大マージン分類器(すなわちGANにおける大マージン識別器)が得られることを示唆する。さらに、期待マージン最大化が偽(生成)サンプルにおける勾配の消失問題(GANにおける知られた課題)を軽減するメカニズムを明らかにする。この枠組みに基づき、ヘンジ損失と組み合わせた新たな$L^\infty$勾配ノルムペナルティを導出し、Fréchet Inception Distance(FID)に基づく評価において、従来の$L^2$ノルムペナルティと比較して同等(あるいは優れた)生成結果を達成できることを示す。