Face aux plafonds de puissance électrique imposés aux datacenters, l'efficacité énergétique est devenue le principal levier de rentabilité pour les infrastructures dédiées à l'intelligence artificielle. NVIDIA a détaillé une stratégie opérationnelle visant à maximiser le nombre de tokens générés par watt, une métrique qui détermine directement les coûts et la compétitivité des AI factories. Pour l'inférence, qui constitue le cœur de la génération de revenus, les optimisations s'articulent autour du matériel, des architectures de modèles et des logiciels. Les modèles de type Mixture-of-Experts (MoE) s'avèrent plus économes que les architectures denses car ils n'activent qu'une fraction de leurs paramètres par requête. Matériellement, le système GB200 NVL72 intègre un refroidissement liquide direct et un lissage de la charge électrique pour stabiliser la consommation dans des enveloppes de puissance fixes. Le passage à des formats de précision réduite, comme le NVFP4, accélère les calculs tout en conservant une précision équivalente au FP8. Côté logiciel, les outils Dynamo et TensorRT-LLM orchestrent ces gains pour un déploiement fluide et scalable. L'entraînement des grands modèles bénéficie également d'innovations structurelles. En collaboration avec l'initiative ML.ENERGY de l'Université du Michigan, NVIDIA a mis au point un réglage dynamique de la fréquence des GPU selon leur charge de travail. Cette approche, intégrée à Megatron-LM, ralentit intentionnellement les processeurs en attente tout en maintenant les unités critiques du pipeline à plein régime. Les mesures indiquent une réduction de la consommation énergétique de près de 25 % sans impacter la durée globale de l'entraînement, libérant ainsi de la capacité électrique pour d'autres runs ou pour l'inférence. La gestion centralisée de ces ressources repose sur la plateforme NVIDIA DSX. Décomposée en DSX MaxLPS pour l'intérieur du datacenter et DSX Flex pour l'interface avec le réseau électrique, elle offre une surveillance en temps réel et une allocation dynamique de l'énergie. Des pratiques comme le refroidissement liquide à 45 °C et l'orchestration adaptative permettent de réaffecter instantanément la puissance vers les workloads les plus rentables. En combinant simulations numériques, télémétrie et ajustements logiciels, les opérateurs peuvent transformer une contrainte électrique en avantage concurrentiel. Cette optimisation à tous les niveaux permet aux AI factories modernes de générer jusqu'à 2,6 fois plus de tokens par seconde et par mégawatt que les infrastructures traditionnelles. En faisant de la métrique énergie-par-token un objectif de conception primordial, le secteur sécurise sa croissance et sa rentabilité malgré les limites imposées par les réseaux électriques régionaux.