HyperAIHyperAI

Command Palette

Search for a command to run...

Verfeinerung tiefer generativer Modelle über Diskriminator-Gradientenfluss

Abdul Fatir Ansari Ming Liang Ang Harold Soh

Zusammenfassung

In den letzten Jahren hat die tiefe generative Modellierung beeindruckende Fortschritte erzielt, sodass es heute alltäglich ist, simulierten Samples (z. B. Bilder) zu beobachten, die realen Daten aus der Welt äußerst ähnlich sehen. Dennoch ist die Generierungsqualität für ein gegebenes Modell im Allgemeinen unkonstant und kann sich stark zwischen einzelnen Samples unterscheiden. Wir stellen DGflow (Discriminator Gradient flow) vor, eine neue Technik, die die Qualität generierter Samples durch den Gradientenfluss von entropieregulierten f-Divergenzen zwischen der echten und der generierten Datensverteilung verbessert. Der Gradientenfluss nimmt die Form einer nichtlinearen Fokker-Planck-Gleichung an, die leicht durch Stichprobenerzeugung aus dem entsprechenden McKean-Vlasov-Prozess simuliert werden kann. Durch die Verbesserung schlechter Samples vermeidet unsere Methode die verschwenderische Stichprobenabweisung, die in früheren Ansätzen (DRS & MH-GAN) verwendet wurde. Im Gegensatz zu existierenden Arbeiten, die sich auf bestimmte GAN-Varianten konzentrieren, zeigen wir, dass unser Verfeinerungsansatz auf GANs mit vektorwertigen Kritikern anwendbar ist und sogar auf andere tiefe generative Modelle wie VAEs und Normalizing Flows übertragen werden kann. Empirische Ergebnisse auf mehreren synthetischen, Bilddaten- und Textdatensätzen demonstrieren, dass DGflow eine erhebliche Verbesserung der Qualität generierter Samples für eine Vielzahl von generativen Modellen ermöglicht und die derzeit besten Methoden, nämlich Discriminator Optimal Transport (DOT) und Discriminator Driven Latent Sampling (DDLS), übertrifft.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Verfeinerung tiefer generativer Modelle über Diskriminator-Gradientenfluss | Paper | HyperAI