Training von Generative Adversarial Networks mit begrenzten Daten

Die Ausbildung von generativen adversarialen Netzen (GANs) mit zu wenig Daten führt typischerweise zu einer Überanpassung des Diskriminators, was zu einer Divergenz des Trainings führt. Wir schlagen eine adaptive Diskriminator-Augmentierungsmethode vor, die die Stabilität des Trainings in Szenarien mit begrenzten Daten erheblich verbessert. Der Ansatz erfordert keine Änderungen an Verlustfunktionen oder Netzwerkarchitekturen und ist sowohl beim Training von Grund auf als auch bei der Feinabstimmung eines bestehenden GANs auf einer anderen Datensatzmenge anwendbar. Wir zeigen an mehreren Datensätzen, dass nun bereits mit nur wenigen Tausend Trainingsbildern gute Ergebnisse erzielt werden können, die oft die Leistung von StyleGAN2 erreichen, jedoch mit einer Größenordnung weniger Bilder. Wir gehen davon aus, dass dies neue Anwendungsgebiete für GANs eröffnet. Zudem stellen wir fest, dass der weit verbreitete CIFAR-10 in Wirklichkeit ein Benchmark für begrenzte Daten darstellt, und verbessern die bisher beste FID von 5,59 auf 2,42.