Stromverbrauch dominiert mit bis zu vierzig Prozent die Betriebskosten moderner KI-Rechenzentren. Da die installierte Leistungskapazität durch regionale Versorgungsnetze begrenzt ist, hat sich die Leistung pro Watt zum entscheidenden Wirtschaftlichkeitsfaktor entwickelt. NVIDIA adressiert diese systemische Herausforderung mit einer durchgängigen Strategie zur Optimierung von KI-Inferenz und Modelltraining, die Hardwarearchitekturen, Softwaretools und infrastrukturelles Management vereint. Für die Effizienzsteigerung im Inferenzbetrieb setzt NVIDIA auf extreme Co-Design-Ansätze im GB200-NVL72-Racksystem. Die direkte Chipkühlung und eine intelligente Leistungsglättung im Rack ermöglichen es Betreibern, mehr GPUs innerhalb fester Strombudgets zu betreiben. Parallel dazu fördern schmalere Rechenformaten wie NVFP4 sowie die Architektur von Mixture-of-Experts-Modellen den Durchsatz pro Watt, da nur ein Teil der Parameter pro Anfrage aktiviert wird. Softwarelösungen wie NVIDIA Dynamo und TensorRT-LLM übersetzen diese physikalischen Vorteile in höheren Token-Durchsatz und reduzierte Inferenzkosten. Beim Training großer Sprachmodelle zeigt eine gemeinsame Untersuchung der University of Michigan und NVIDIA, dass ineffiziente GPU-Auslastung erhebliche Energieverschwendung verursacht. Durch energiebewusstes Scheduling und die gezielte Taktanpassung einzelner GPUs entlang des kritischen Rechenpfads lässt sich der Gesamtenergieverbrauch des Trainings um rund 25 Prozent senken, ohne die Iterationsgeschwindigkeit zu beeinträchtigen. Diese Erkenntnisse fließen direkt in die Optimierung von Megatron-LM ein, sodass freie Kapazitäten für zusätzliche Trainingsläufe oder produktive Inferenz genutzt werden können. Die zentrale Steuerung dieser komplexen Ökosysteme übernimmt die offene Plattform NVIDIA DSX. Sie schafft eine durchgängige Transparenz von der Chip-Ebene bis zur Gebäudeinfrastruktur und koppelt Design-Simulationen mit Echtzeit-Messdaten. Mit DSX MaxLPS wird die interne Rechenzentrumsleistung dynamisch zugewiesen, Kühllasten optimiert und die Stromverteilung an aktuelle Lasten angepasst. DSX Flex erweitert diese Steuerung um die Netzwerkkopplung, ermöglicht eine bedarfsgerechte Lastverteilung nach externen Strompreisen und Netzsituationen. Die kombinierte Anwendung dieser Full-Stack-Optimierungen steigert die Token-Produktion pro Megawatt um bis zu das 2,6-Fache im Vergleich zu unoptimierten Anlagen. NVIDIA positioniert damit Energieeffizienz nicht mehr nur als technische Nebenbedingung, sondern als strategischen Wettbewerbsvorteil, der die Tokenökonomie maßgeblich bestimmt. Die vollständigen technischen Spezifikationen und Benchmark-Ergebnisse werden im Rahmen der ISC 2026 detailliert präsentiert.