Dell délivre les premiers systèmes Nvidia GB300 NVL72 à CoreWeave, propulsant les performances d'IA à un niveau record
Le jeudi, Dell a annoncé qu'il avait livré les premiers systèmes basés sur la plateforme GB300 NVL72 d'Nvidia à CoreWeave, un fournisseur de services cloud de pointe dédié à l'intelligence artificielle. CoreWeave a également indiqué avoir déployé ce cluster Blackwell Ultra avec son partenaire d'hébergement de centres de données, Switch. Les systèmes initiaux de ce déploiement comprennent des racks intégrés Dell équipés de 72 GPUs Nvidia Blackwell Ultra, de 36 CPU Grace basés sur Arm (72 cœurs chacun) et de 36 BlueField DPUs par rack. Chaque rack GB300 NVL72 offre une puissance de calcul de 1,1 exaflops pour l'inférence FP4 et de 0,36 exaflops pour l'entraînement FP8, représentant une augmentation de 50 % par rapport aux performances de la plateforme GB200 NVL. De plus, chaque rack est équipé de 20 teraoctets de RAM HBM3E et de 40 teraoctets de RAM totale. En raison de leur consommation d'énergie extrême, ces systèmes densément configurés sont refroidis par liquide, avec chaque GPU consommant jusqu'à 1 400 watts. Dell a souligné que ces solutions de racks étaient non seulement prêtes à l'emploi et testées, mais également conçues pour une installation et un déploiement rapides en vue d'une utilisation en production. « La livraison de solutions alimentées par la plateforme Nvidia GB300 est bien plus qu'un simple jalon, » a déclaré Dell dans un communiqué. « Elle témoigne de l'confiance que nos clients et partenaires continuent de placer dans notre expertise. En intégrant parfaitement les ressources de calcul, de réseau et de stockage sous un même toit, et en les affinant grâce à des services d'intégration et de déploiement, nous aidons nos clients à opérer à une vitesse et à une échelle sans précédent. C'est cette capacité à innover et agir rapidement qui nous permet d'accompagner des clients exceptionnels et de dynamiser notre collaboration avec des partenaires tels que CoreWeave, Nvidia et de nombreux autres. » Il s'agit de la deuxième fois que Dell et CoreWeave déploient les derniers systèmes GPU AI d'Nvidia avant leurs concurrents. Cette prouesse est le résultat d'une collaboration étroite entre Dell, CoreWeave et Nvidia, combinant matériel, logiciel et services pour offrir des solutions intégrées qui peuvent être rapidement mises en œuvre. Ce déploiement permettra à CoreWeave de renforcer sa plateforme cloud pour gérer des modèles linguistiques avancés de plus grande ampleur, des processus de raisonnement et de l'inférence. À mesure que CoreWeave augmentera le nombre de racks basés sur la GB300 NVL72, la performance globale disponible pour ses clients s'améliorera sensiblement. Il est intéressant de noter que Dell et CoreWeave ont déployé ces racks GB300 NVL72 environ sept mois seulement après l'introduction des premières machines GB200 NVL72. Cette rapidité de transition soulève des questions concernant la durée de vie du GB200 original, qui avait connu certaines retards d'entrée sur le marché. Cependant, du point de vue des fournisseurs de services cloud, il est plus logique d'investir dans les systèmes de plus haute performance Blackwell Ultra plutôt que dans les anciens modèles Blackwell. Il se peut donc que Nvidia bénéficie d'une forte demande pour son Blackwell Ultra, ce qui pourrait conduire à des ventes encore plus importantes en comparaison avec le premier semestre de l'année. Nvidia a accompagné ce lancement avec des innovations en matière de connectivité, notamment l'utilisation de commutateurs Quantum-X800 InfiniBand et de cartes réseau ConnectX-8 SuperNICs pour des connexions d'échelle pouvant atteindre 14,4 Go/s, soit deux fois plus rapide que les générations précédentes. Ces améliorations techniques assurent une meilleure performance et une plus grande flexibilité dans les opérations cloud à grande échelle.