NVIDIA open-sourçe Nemotron 3.5 Super VL et Bolt

Nvidia a publié le 15 octobre le modèle à poids ouverts Nemotron 3.5 Super VL et a lancé deux modèles Bolt destinés aux appareils locaux. Le Super VL, doté d'un total de 120 milliards de paramètres, combine la compréhension textuelle et visuelle pour traiter des documents, des graphiques, des appels d'outils et des processus métier multi-étapes. Nvidia affirme qu'il offre un avantage en vitesse pour les tâches d'agent parmi les modèles ouverts comparables ; cette conclusion de performance doit être évaluée en fonction des conditions de test spécifiques. Le Nemotron 3.5 Bolt 74B-A9B 24GB utilise des techniques de quantification pour fonctionner avec environ 24 Go de mémoire sur des appareils disposant du matériel approprié, ciblant les tâches d'agent locales telles que la recherche web, la programmation et le débogage. Le plus petit Bolt E4B 4GB vise les assistants vocaux, les personnages interactifs et les applications embarquées. Les modèles Super VL et Bolt 74B-A9B sont désormais disponibles, tandis que le Bolt E4B est prévu pour le 23 octobre. Nvidia indique que le Super VL fournit les poids du modèle, les jeux de données et les protocoles d'entraînement, permettant aux entreprises de poursuivre l'entraînement avec leurs propres données et de choisir l'environnement de déploiement selon les exigences de sécurité et de stockage des données. Des organisations telles que Scale AI et Ramp l'utilisent déjà dans des cas d'usage métier spécifiques. La combinaison des trois modèles reflète la volonté de Nvidia de couvrir les besoins de déploiement dans les centres de données, les équipements de bureau et le matériel périphérique au sein d'une même famille de modèles.