Nvidia dévoile le CPU Vera pour l'IA agente
Nvidia a dévoilé Vera, son nouveau processeur de centre de données basé sur l'architecture Arm, conçu spécifiquement pour répondre aux exigences croissantes de l'intelligence artificielle agentic. Plutôt que de maximiser le nombre de cœurs, Nvidia privilégie la performance monoprocesseur à grande échelle, estimant que les charges de travail IA, notamment l'inférence et les tâches d'agents autonomes, dépendent davantage de la vitesse d'un thread unique que du parallélisme massif. Vera repose sur une puce monolithique de 88 cœurs, supportant la technologie SMT pour atteindre 176 threads. Cette architecture évite les limites des solutions à chiplets, souvent confrontées à des goulots d'étranglement en matière de latence et de bande passante mémoire. Le processeur est couplé à de la mémoire LPDDR5X offrant 1,2 téraoctet par seconde de bande passante, tandis qu'un bus interne assure 3,4 téraoctets par seconde de communication entre les cœurs. Selon Nvidia, cette connectivité interne est trois fois supérieure à celle des autres processeurs serveur actuels. En prévision, l'entreprise a également annoncé les futures cœurs Rigel (architecture Arm v9.2), qui équiperont le Rosa et promettent une amélioration de la performance par cœur grâce à un meilleur débit d'instructions, une mémoire cache L2 étendue et une gestion mémoire optimisée. Pour les charges de travail IA, chaque étape de raisonnement ou d'agent dépend du résultat de la précédente, rendant le parallélisme inefficace. Nvidia affirme que Vera délivre jusqu'à 1,8 fois plus de performance dans des scénarios d'exécution d'agents IA comparé aux solutions x86, 1,5 fois plus en flux de travail de programmation, et trois fois plus en analyse de bases de données. Ces chiffres proviennent de tests en conditions réelles avec des partenaires comme Perplexity, Starburst et Redpanda. Toutefois, comme pour tout benchmark publié par le fabricant, ces résultats doivent être interprétés avec prudence, d'autant que les références x86 exactes ne sont pas précisément identifiées. Cette orientation technique marque un changement de paradigme pour les centres de données. Traditionnellement, les serveurs privilégient le nombre de cœurs, ce qui impose une réduction des fréquences et complexifie la gestion thermique. Avec l'avènement des agents IA, la demande se déplace vers des processeurs offrant à la fois une grande capacité de traitement séquentiel et une bande passante élevée. Nvidia positionne Vera comme une réponse à cette évolution, tandis que l'industrie observe attentivement si Intel et AMD suivront cette même voie pour rester compétitifs dans le marché de l'infrastructure IA.
