16日前

生成対抗ネットワークにおける一貫性正則化

Han Zhang, Zizhao Zhang, Augustus Odena, Honglak Lee
生成対抗ネットワークにおける一貫性正則化
要約

生成対抗ネットワーク(GAN)は、多大な研究努力にもかかわらず、訓練が困難であることで知られている。訓練の安定化を図るためのいくつかの正則化手法が提案されてきたが、それらは非自明な計算負荷を伴い、スペクトル正規化などの既存手法と相性が悪いという問題がある。本研究では、半教師付き学習分野で広く用いられている「一貫性正則化(consistency regularization)」という概念に基づき、シンプルかつ効果的な訓練安定化手法を提案する。具体的には、GANの識別器に入力されるデータに対して拡張を施し、識別器がこれらの拡張に対して敏感にならないようにペナルティを課す。複数の実験を通じて、一貫性正則化がスペクトル正規化およびさまざまなGANアーキテクチャ、損失関数、最適化手法と効果的に連携することを示した。CIFAR-10およびCelebAにおける無条件画像生成において、他の正則化手法と比較して最も優れたFIDスコアを達成した。さらに、本手法を用いた一貫性正則化GAN(CR-GAN)は、CIFAR-10における条件付き生成の最先端FIDスコアを14.73から11.48へ、ImageNet-2012では8.73から6.66へと改善した。

生成対抗ネットワークにおける一貫性正則化 | 最新論文 | HyperAI超神経