Régularisation de cohérence pour les réseaux adverses génératifs

Les réseaux antagonistes génératifs (GAN) sont connus pour être difficiles à entraîner, malgré des efforts de recherche considérables. Plusieurs techniques de régularisation ont été proposées afin de stabiliser l'entraînement, mais elles introduisent des surcoûts computationnels non négligeables et interagissent mal avec des méthodes existantes telles que la normalisation spectrale. Dans ce travail, nous proposons un stabilisateur d'entraînement simple et efficace fondé sur la notion de régularisation de cohérence — une technique couramment utilisée dans la littérature sur l'apprentissage semi-supervisé. Plus précisément, nous appliquons des augmentations aux données envoyées au discriminateur du GAN et pénalisons la sensibilité de ce dernier à ces augmentations. Nous menons une série d'expériences pour démontrer que la régularisation de cohérence s'accommode efficacement de la normalisation spectrale, ainsi que de diverses architectures GAN, fonctions de perte et configurations d'optimiseur. Notre méthode atteint les meilleurs scores FID pour la génération d'images sans condition sur CIFAR-10 et CelebA, comparée aux autres méthodes de régularisation. En outre, notre GAN régularisé par cohérence (CR-GAN) améliore les scores FID de pointe pour la génération conditionnelle, passant de 14,73 à 11,48 sur CIFAR-10 et de 8,73 à 6,66 sur ImageNet-2012.