要約
GANは訓練が難しいという広く流通する主張があり、文献に登場するGANアーキテクチャの多くには経験則に基づくテクニックが散在している。本研究はこの主張に反する証拠を提示し、より原理的なアプローチで現代的なGANベースラインを構築する。まず、従来の経験的手法によって対処されてきたモード崩壊や収束不良といった問題を、手作業的なトリックに頼らずに解消できる、良好な正則化された相対的GAN損失関数を導出する。この損失関数は数学的に分析され、従来の多くの相対的損失関数とは異なり、局所収束保証を有することが証明されている。次に、本研究で提案する新しい損失関数により、すべての経験則的なテクニックを排除し、従来のGANで用いられていた古くなったバックボーンを、現代的なアーキテクチャに置き換えることが可能となる。具体的には、StyleGAN2を例に挙げ、簡略化と現代化のための道筋を提示し、新たなミニマリストベースライン「R3GAN」を構築する。このアプローチは単純であるにもかかわらず、FFHQ、ImageNet、CIFAR、Stacked MNISTといった複数のデータセットにおいて、StyleGAN2を上回り、最先端のGANおよび拡散モデルと比較しても優れた性能を発揮している。