HyperAIHyperAI

Command Palette

Search for a command to run...

Génération d’images autoregressive sans quantification vectorielle

Tianhong Li Yonglong Tian He Li Mingyang Deng Kaiming He

Résumé

La sagesse conventionnelle considère que les modèles autoregressifs pour la génération d’images sont généralement associés à des tokens quantifiés vectoriellement. Nous observons qu’alors qu’un espace à valeurs discrètes peut faciliter la représentation d’une distribution catégorielle, il n’est pas une condition nécessaire pour la modélisation autoregressive. Dans ce travail, nous proposons de modéliser la distribution de probabilité par token à l’aide d’une procédure de diffusion, ce qui permet d’appliquer des modèles autoregressifs dans un espace à valeurs continues. Au lieu d’utiliser une fonction de perte d’entropie croisée catégorique, nous définissons une fonction de perte de diffusion pour modéliser la probabilité par token. Cette approche élimine la nécessité d’un tokeniseur à valeurs discrètes. Nous évaluons son efficacité dans un large éventail de cas, incluant les modèles autoregressifs standards ainsi que leurs variantes généralisées à autoregression masquée (MAR). En supprimant la quantification vectorielle, notre générateur d’images atteint des résultats performants tout en bénéficiant de l’avantage de vitesse propre au traitement séquentiel. Nous espérons que ce travail encouragera l’utilisation de la génération autoregressive dans d’autres domaines et applications à valeurs continues. Le code est disponible à l’adresse suivante : https://github.com/LTH14/mar.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Génération d’images autoregressive sans quantification vectorielle | Articles | HyperAI