Optimale budgetierte Ablehnungsprobenahme für generative Modelle

Verwerfungssampling-Verfahren wurden kürzlich vorgeschlagen, um die Leistung von diskriminativ gestützten generativen Modellen zu verbessern. Diese Verfahren sind jedoch nur unter einer unbegrenzten Sampling-Budget-Bedingung optimal und werden üblicherweise auf einen Generator angewendet, der unabhängig vom Verwerfungsverfahren trainiert wurde. Zunächst schlagen wir ein Optimal Budgeted Rejection Sampling (OBRS)-Verfahren vor, das bezüglich jeder $f$-Divergenz zwischen der echten Verteilung und der Verteilung nach dem Verwerfungsprozess für ein gegebenes Sampling-Budget beweisbar optimal ist. Zweitens präsentieren wir eine end-to-end-Methode, die das Sampling-Verfahren direkt in den Trainingsprozess integriert, um die Gesamtleistung des Modells weiter zu steigern. Durch Experimente und unterstützende Theorie zeigen wir, dass die vorgeschlagenen Ansätze wirksam sind und die Qualität sowie die Vielfalt der generierten Proben erheblich verbessern.