HyperAIHyperAI

Command Palette

Search for a command to run...

Optimale budgetierte Ablehnungsprobenahme für generative Modelle

Alexandre Verine Muni Sreenivas Pydi Benjamin Negrevergne Yann Chevaleyre

Zusammenfassung

Verwerfungssampling-Verfahren wurden kürzlich vorgeschlagen, um die Leistung von diskriminativ gestützten generativen Modellen zu verbessern. Diese Verfahren sind jedoch nur unter einer unbegrenzten Sampling-Budget-Bedingung optimal und werden üblicherweise auf einen Generator angewendet, der unabhängig vom Verwerfungsverfahren trainiert wurde. Zunächst schlagen wir ein Optimal Budgeted Rejection Sampling (OBRS)-Verfahren vor, das bezüglich jeder fff-Divergenz zwischen der echten Verteilung und der Verteilung nach dem Verwerfungsprozess für ein gegebenes Sampling-Budget beweisbar optimal ist. Zweitens präsentieren wir eine end-to-end-Methode, die das Sampling-Verfahren direkt in den Trainingsprozess integriert, um die Gesamtleistung des Modells weiter zu steigern. Durch Experimente und unterstützende Theorie zeigen wir, dass die vorgeschlagenen Ansätze wirksam sind und die Qualität sowie die Vielfalt der generierten Proben erheblich verbessern.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp