HyperAIHyperAI

Command Palette

Search for a command to run...

NVIDIA et Hugging Face simplifient le fine-tuning des modèles

NVIDIA et Hugging Face ont annoncé une collaboration stratégique visant à simplifier l'entraînement et le réglage fin des modèles de diffusion à grande échelle. Cette intégration combine la bibliothèque NeMo Automodel de NVIDIA avec le framework Diffusers de Hugging Face, offrant aux chercheurs et aux développeurs un pipeline de formation distribué et prêt pour la production. Le cœur de cette fusion réside dans la suppression des étapes de conversion lourdes. Les modèles préentraînés hébergés sur le Hub Hugging Face peuvent désormais être ajustés directement, sans nécessiter de reformatage des points de contrôle. Cette approche garantit une compatibilité immédiate avec les outils existants, qu'il s'agisse de quantification, de compilateurs ou d'adaptateurs LoRA. La solution prend en charge un large éventail d'architectures populaires, notamment les familles Wan 2.1 et Wan 2.2 pour la génération vidéo, ainsi que FLUX.1-dev, FLUX.2-dev, HunyuanVideo et Qwen-Image pour la synthèse d'images. Techniquement, NeMo Automodel repose sur un objectif d'entraînement par appairage de flux et optimise l'utilisation des ressources grâce au cache latent et au partitionnement multirésolution. Il permet aux équipes de choisir entre un réglage fin complet pour une qualité maximale ou le format LoRA pour une efficacité accrue sur des infrastructures limitées. L'architecture intègre des schémas de parallélisme avancés, incluant la distribution FSDP2, le parallélisme tensoriel et contextuel, ainsi que l'orchestration multi-nœuds. Les tests menés sur des clusters de huit GPU NVIDIA H100 démontrent des gains de performance significatifs, avec des temps d'inférence et des débits d'entraînement adaptés aux modèles de plusieurs dizaines de milliards de paramètres. La démonstration publique a porté sur l'adaptation du style visuel du modèle FLUX.1-dev et des séquences vidéo Wan 2.1. En quelques centaines d'itérations, les modèles ont appris à reproduire des esthétiques spécifiques, comme l'art tarot vintage ou l'univers animé Studio Ghibli, sans altérer la structure sémantique des générations. Ces résultats confirment la capacité de l'outil à spécialiser les modèles de base tout en conservant leur fiabilité. Pour faciliter l'adoption, la configuration s'appuie actuellement sur des fichiers YAML reproductibles, mais NVIDIA prévoit prochainement de déployer une interface de programmation Python complète. Cette évolution permettra d'intégrer directement les recettes d'entraînement dans des notebooks et des workflows de recherche existants. En offrant un accès gratuit et ouvert sous licence Apache 2.0, cette collaboration vise à accélérer l'innovation dans le domaine des génératives multimodales et à démocratiser l'accès à l'entraînement distribué pour une communauté de développeurs de plus en plus exigeante.

Liens associés