NVIDIA a annoncé le 11 août 2024 le lancement de Nemotron 3.5 Lightning et de NeMo Switchyard, deux solutions open source conçues pour accélérer et optimiser l'intelligence artificielle autonome. Alors que les systèmes d'IA évoluent vers des agents capables de fonctionner en continu, ces nouveaux outils offrent aux entreprises et aux développeurs un contrôle accru sur le déploiement, la confidentialité et l'efficacité opérationnelle. Nemotron 3.5 Lightning est un modèle ouvert de 30 milliards de paramètres utilisant une architecture à mélange d'experts. Il est spécialement conçu pour les tâches à haut volume dans les workflows d'agents autonomes. Selon les benchmarks PinchBench, il génère les réponses jusqu'à quatre fois plus rapidement et réduit de 30 % le temps de complétion des tâches par rapport à ses concurrents directs. Son code ouvert permet un affinage personnalisé via la plateforme NeMo, en s'ajustant à des données sectorielles pour améliorer la précision. Déjà adapté par des acteurs comme CrowdStrike pour la cybersécurité, Harvey pour le juridique, ou CodeRabbit pour la vérification de code, il s'ajuste également aux domaines scientifique, financier et de la santé. Le modèle peut s'exécuter sur des dispositifs locaux comme les PC RTX, les systèmes DGX Spark et Jetson, ou s'étendre aux workstations, data centers et environnements cloud. Pour faciliter son adoption locale, NVIDIA a collaboré avec vLLM, Ollama, llama.cpp, LM Studio et Unsloth, qui offrent un support natif. Un jeu de données d'apprentissage par renforcement spécifique aux agents, Nemotron-RL-Agentic-Terminal-Pivot, est également publié conjointement. Parallèlement, NVIDIA publie NeMo Switchyard, une bibliothèque logicielle open source de routage intelligent. Dans une architecture multi-modèles, cette solution dirige automatiquement chaque requête vers le modèle le plus adapté selon les critères de précision, de latence ou de coût. Les développeurs peuvent ajuster les algorithmes de routage pour privilégier leurs priorités, sans nécessiter de refonte complète des applications. Selon des tests internes, ce système maintient une performance équivalente aux modèles de pointe tout en réduisant le coût d'exécution à environ un tiers de celui d'Opus 4.8 utilisé seul. Nemotron 3.5 Lightning est disponible sur Hugging Face, ModelScope, OpenRouter et build.nvidia.com en tant que microservice NIM, avec un élargissement progressif aux partenaires cloud et plateformes d'inférence. NeMo Switchyard est dès à présent téléchargeable sur GitHub. Ces annonces s'inscrivent dans une initiative plus large de NVIDIA pour démocratiser l'IA locale et open source, permettant aux organisations de combiner intelligence de pointe, optimisation des coûts et souveraineté des données dans leurs écosystèmes numériques.