Dell und CoreWeave setzen neue Nvidia-Supercomputer ein

Dell gab am Donnerstag bekannt, dass es die ersten Systeme auf Basis von Nvidias GB300 NVL72-Plattform an CoreWeave, einen führenden Anbieter von KI-Clouddiensten, geliefert hat. CoreWeave hat den Blackwell Ultra-basierten Cluster zusammen mit seinem Rechenzentrumshosting-Anbieter Switch bereitgestellt. Der erste Rollout von Dell und CoreWeave umfasst Dell Integrated Racks, die mit 72 Nvidia Blackwell Ultra-GPUs, 36 Arm-basierten 72-Kern-Grace-CPUs und 36 BlueField-DPUs pro Rack ausgestattet sind. Jeder GB300 NVL72-Rack liefert 1,1 ExaFLOPS dichter FP4-Inferenzleistung und 0,36 ExaFLOPS FP8-Trainingsleistung, was gegenüber einem GB200 NVL um 50 % höher ist. Zudem verfügen die Racks über 20 TB HBM3E und 40 TB Gesamtspeicher. Die neue Rack-Lösung beruht auf Nvidias Quantum-X800 InfiniBand-Schaltern und ConnectX-8 SuperNICs für Skalierungsaufbauten mit einer Geschwindigkeit von bis zu 14,4 GB/s, was doppelt so schnell ist wie bisher. Aufgrund des extremen Stromverbrauchs (bis zu 1.400 W pro GPU) sind diese dicht konfigurierten Systeme für maximale Trainings- und Inferenzleistung flüssig gekühlt. Dell betonte, dass die Rack-Lösungen vorab montiert und getestet sind sowie für eine schnelle Installation und Bereitstellung im Produktiveinsatz ausgelegt sind. Es ist das zweite Mal, dass Dell und CoreWeave Nvidias neueste KI-GPU-Plattform früher als der Rest der Branche einsetzen. Dieses Ergebnis entsteht durch enge Zusammenarbeit mit Nvidia, die Hardware, Software und Dienstleistungen zu integrierten Angeboten kombiniert, die schnell bereitgestellt werden können. Die Bereitstellung wird es CoreWeave ermöglichen, seine Cloud-Plattform zu verbessern und fortgeschrittene Trainingsprozesse für große Sprachmodelle, Schließfolgerungsprozesse und Inferenz aufzunehmen. Mit dem Einsatz weiterer GB300 NVL72-Racks wird die Gesamtleistung für die Kunden steigen. Ein bemerkenswerter Aspekt ist, dass Dell und CoreWeave die GB300 NVL72-Racks nur sieben Monate nach der Bereitstellung der ersten GB200 NVL72-Maschinen einsetzen. Dies wirft Fragen auf über die Lebensdauer des ursprünglichen GB200-Plattform. Aus Sicht der CSPs macht es mehr Sinn, in leistungsstärkere Blackwell Ultra-Maschinen zu investieren als in die ursprünglichen Blackwell-Systeme. Daher könnte es eine erhebliche nachgefragt nach Nvidias Blackwell Ultra geben, sodass Nvidia noch höhere Verkaufszahlen als im ersten Halbjahr des Jahres erzielen wird. Industrieinsider bewerten die Bereitstellung als bedeutenden Meilenstein in der Entwicklung von KI-Infrastruktur. Sie sehen in Dell und CoreWeave Vorreiter, die durch ihre schnelle Umsetzung und hohe Leistungsfähigkeit die Branche vorantreiben. Nvidias Rolle als Technologieanbieter wird dabei besonders hervorgehoben, da es gelingt, fortschrittliche Lösungen zu entwickeln, die sowohl die Leistung als auch die Skalierbarkeit signifikant verbessern. Dell ist bekannt für seine Fähigkeit, komplexes Hardware und Software in nahtlos integrierte Systeme zu verwandeln, die schnell und effizient bereitgestellt werden können. CoreWeave profitiert von dieser Kooperation, indem es seine Dienste erweitern und verbessern kann, um den wachsenden Anforderungen der KI-Industrie gerecht zu werden.