HyperAIHyperAI

Command Palette

Search for a command to run...

Échantillonnage par rejet budgétisé optimal pour les modèles génératifs

Alexandre Verine Muni Sreenivas Pydi Benjamin Negrevergne Yann Chevaleyre

Résumé

Les méthodes d’échantillonnage par rejet ont récemment été proposées pour améliorer les performances des modèles génératifs fondés sur un discriminateur. Toutefois, ces méthodes ne sont optimales que sous une contrainte de budget d’échantillonnage illimitée, et sont généralement appliquées à un générateur entraîné indépendamment du processus de rejet. Nous proposons tout d’abord un schéma d’échantillonnage par rejet à budget optimal (OBRS), qui est prouvéement optimal par rapport à toute divergence f entre la distribution réelle et la distribution post-rejet, pour un budget d’échantillonnage donné. Ensuite, nous proposons une méthode end-to-end qui intègre le schéma d’échantillonnage dans le processus d’entraînement, afin d’améliorer davantage les performances globales du modèle. À travers des expériences et une théorie complémentaire, nous démontrons que les méthodes proposées sont efficaces pour améliorer de manière significative la qualité et la diversité des échantillons générés.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp