Le discriminateur relativiste : un élément clé manquant dans les GAN standards

Dans un réseau de neurones génératif adversarial standard (SGAN), le discriminateur estime la probabilité que les données d'entrée soient réelles. Le générateur est formé pour augmenter la probabilité que les données fausses soient considérées comme réelles. Nous soutenons qu'il devrait également diminuer simultanément la probabilité que les données réelles soient considérées comme réelles car 1) cela tiendrait compte des connaissances a priori selon lesquelles la moitié des données du mini-lot sont fausses, 2) cela serait observé lors de la minimisation de la divergence, et 3) dans des conditions optimales, le SGAN serait équivalent aux GANs basés sur la métrique de probabilité intégrale (IPM).Nous montrons que cette propriété peut être induite en utilisant un discriminateur relativiste qui estime la probabilité que les données réelles fournies soient plus réalistes qu'une donnée fausse tirée aléatoirement. Nous présentons également une variante dans laquelle le discriminateur estime la probabilité que les données réelles fournies soient plus réalistes en moyenne que les données fausses. Nous généralisons ces deux approches aux fonctions de perte non standard des GANs et nous les désignons respectivement par GANs relativistes (RGANs) et GANs relativistes moyens (RaGANs). Nous démontrons que les GANs basés sur l'IPM sont un sous-ensemble des RGANs qui utilisent la fonction identité.Expérimentalement, nous observons que 1) les RGANs et RaGANs sont significativement plus stables et génèrent des échantillons de données de meilleure qualité que leurs homologues non-relativistes, 2) un RaGAN standard avec pénalisation du gradient génère des données de meilleure qualité que le WGAN-GP tout en n'exigeant qu'une seule mise à jour du discriminateur par mise à jour du générateur (réduisant le temps nécessaire pour atteindre l'état de l'art de 400 %), et 3) les RaGANs sont capables de générer des images de haute résolution plausibles (256x256) à partir d'un très petit échantillon (N=2011), alors que les GAN et LSGAN ne le peuvent pas ; ces images sont nettement meilleures en qualité que celles générées par WGAN-GP et SGAN avec normalisation spectrale.