Xuechao Zou Shun Zhang Xing Fu Yue Li Kai Li Yushe Cao Congyan Lang Pin Tao Junliang Xing

Résumé

La génération contrôlable de visages soulève des défis majeurs dans le domaine de la modélisation générative en raison de l’équilibre subtil requis entre la contrôle sémantique et la photoréalisme. Alors que les approches existantes peinent à désentrelacer les contrôles sémantiques des pipelines de génération, nous réexaminons le potentiel architectural des Diffusion Transformers (DiTs) à travers le prisme de la spécialisation experte. Ce papier présente Face-MoGLE, un cadre novateur comprenant : (1) un modèle latent déconnecté sémantiquement par factorisation spatiale conditionnée par masque, permettant une manipulation précise des attributs ; (2) un mélange d’experts globaux et locaux, capables de capturer à la fois la structure globale et les sémantiques au niveau régional pour une contrôle fine ; (3) un réseau d’ouverture dynamique produisant des coefficients dépendants du temps, évoluant selon les étapes de diffusion et les positions spatiales. Face-MoGLE offre une solution puissante et flexible pour la génération de visages de haute qualité avec contrôle, présentant un fort potentiel pour les applications en modélisation générative et en sécurité. Des expériences étendues démontrent son efficacité dans des scénarios de génération de visages multimodaux et monomodaux, ainsi que sa robuste capacité de généralisation zéro-shot. La page du projet est disponible à l’adresse suivante : https://github.com/XavierJiezou/Face-MoGLE.