NVIDIA Vera Rubin optimise le post-training pour l'IA
NVIDIA a présenté sa nouvelle plateforme Vera Rubin, conçue spécifiquement pour optimiser le post-entraînement des modèles d'intelligence artificielle agents. Contrairement aux modèles génératifs classiques qui répondent à des invites, les agents IA doivent planifier, utiliser divers outils et s'adapter en temps réel à un environnement en mutation. Cette dynamique transforme le post-entraînement, phase cruciale de raffinement des modèles après leur apprentissage initial, en un processus continu plutôt qu'en une étape ponctuelle. Au cœur de cette stratégie se trouve une nouvelle métrique : l'intelligence par dollar. Alors que le coût par jeton mesure l'efficacité opérationnelle de l'inférence, l'intelligence par dollar évalue le retour sur investissement des capacités acquises par le modèle. NVIDIA explique que réduire le coût d'inférence abaisse le prix de chaque point d'intelligence intégré, tandis que renforcer ces capacités augmente la valeur de chaque jeton servi. Pour maximiser ce ratio, la plateforme Vera Rubin nécessite quatre fois moins de processeurs graphiques que la génération Blackwell pour former les plus grands modèles, tout en supportant des cycles d'apprentissage par renforcement incessants et parallélisés. La société a également dévoilé Nemotron 3 Ultra, un modèle open source de 550 milliards de paramètres entraîné avec sa bibliothèque NeMo RL. Le modèle a atteint un score de 71,7 % sur le benchmark SWE-bench vérifié, parvenant à corriger environ sept bugs logiciels réels sur dix. Cette approche intéresse déjà plusieurs acteurs de l'industrie. Prime Intellect, qui utilise actuellement les infrastructures Blackwell pour le post-entraînement, prévoit d'adopter Vera Rubin pour accélérer ses boucles d'apprentissage par renforcement et améliorer la latence de ses environnements de test. Selon l'entreprise, les processeurs Vera offrent en moyenne 30 % de débit en plus que les architectures x86 équivalentes. Perplexity quant à lui, déploie déjà un pipeline d'entraînement asynchrone sur des centaines de GPU NVIDIA et sert ses modèles sur des systèmes GB200 NVL72. Together AI propose également des services de post-entraînement en mode cloud, optimisés via les bibliothèques NVIDIA, et prévoit prochainement d'intégrer Vera Rubin à son infrastructure. En recentrant l'optimisation matérielle et logicielle sur la continuité du post-entraînement, NVIDIA positionne Vera Rubin comme un socle essentiel pour l'ère des agents IA. L'objectif est de rendre économiquement viable l'adaptation constante des modèles, garantissant que chaque cycle de calcul contribue directement à une intelligence plus robuste et plus rentable.
