摘要
关于生成对抗网络（GAN）难以训练的说法广为流传，文献中诸多GAN架构也充斥着各种经验性技巧。本文对此提出反驳，并以更为严谨的思路构建了一个现代化的GAN基准模型。首先，我们推导出一种具有良好性质的正则化相对性GAN损失函数，该损失函数有效解决了此前依赖大量临时性技巧才能应对的模式崩溃（mode dropping）与非收敛性问题。我们对这一损失函数进行了数学分析，并证明其具备局部收敛性保证，这与大多数现有相对性损失函数形成鲜明对比。其次，得益于这一新损失函数，我们能够完全摒弃以往依赖的各类经验性技巧，并将传统GAN中过时的主干网络替换为现代神经网络架构。以StyleGAN2为例，我们提出了一条简化与现代化的实施路径，最终构建出一种全新的极简基准模型——R3GAN。尽管结构简洁，R3GAN在FFHQ、ImageNet、CIFAR以及Stacked MNIST等多个数据集上的表现均超越了StyleGAN2，并在性能上与当前最先进的GAN模型及扩散模型（diffusion models）相媲美。