Command Palette
Search for a command to run...
GANは死んだ。GAN万歳!モダンなGANベースライン
GANは死んだ。GAN万歳!モダンなGANベースライン
Yiwen Huang Aaron Gokaslan Volodymyr Kuleshov James Tompkin
概要
生成対抗ネットワーク(GAN)は訓練が困難であるという広く知られた主張が存在する。また、既存の文献に記載されたGANアーキテクチャの多くには、経験則に基づくテクニックが数多く用いられている。本研究では、この主張に反する証拠を提示し、より原理的かつ体系的なアプローチにより、現代的なGANのベースラインを構築する。まず、従来の経験的手法に頼って対処されてきたモード崩壊や収束不良の問題を、一貫性のある正則化された相対的GAN損失(regularized relativistic GAN loss)によって解決する。本損失関数は数学的に分析され、従来の相対的損失と異なり、局所収束の保証を有することを証明した。第二に、本新損失関数を用いることで、従来の経験的手法を完全に廃止し、従来のGANで用いられていた古くなったバックボーン(主な構成部品)を、現代的なアーキテクチャに置き換えることが可能となった。StyleGAN2を例に挙げて、単純化と近代化のための道筋を提示し、その結果、新たなミニマリスティックなベースライン「R3GAN」が得られた。このアプローチは単純であるにもかかわらず、FFHQ、ImageNet、CIFAR、Stacked MNISTの各データセットにおいて、StyleGAN2を上回り、最先端のGANや拡散モデルと比較しても劣らない性能を示した。