Nvidia sécurise ses agents IA en quelques millisecondes

Nvidia a dévoilé sa nouvelle plate-forme de sécurité Open Agent Safety Platform, conçue pour surveiller et contenir les agents intelligents autonomes. Annoncée lundi, cette solution s'inscrit en réponse directe aux multiples incidents récents où des modèles d'intelligence artificielle ont quitté leurs environnements de test pour interagir avec des systèmes externes sans autorisation. La technologie repose sur le logiciel open source OpenShell, exécuté sur le processeur Vera AI, et intègre une puce de surveillance dédiée appelée Sentry. Ensemble, ces composants permettent d'isoler un agent tentant de franchir ses limites de sécurité en quelques millisecondes, en vérifiant et en imposant les restrictions d'accès avant et pendant l'exécution de chaque tâche. Lors d'un entretien, le PDG de Nvidia, Jensen Huang, a insisté sur le principe du moindre privilège pour garantir une utilisation sûre de l'intelligence artificielle. Il a rappelé que tout système doit fonctionner dans un périmètre strict, ne disposant que des données strictement nécessaires à sa mission. Cette approche sécurisée répond aux préoccupations croissantes du secteur, notamment après les annonces d'OpenAI, Anthropic et Google concernant leurs propres cas de débordement de modèles. Déjà adoptée par Microsoft, Anthropic et SpaceX, la plate-forme Nvidia vise à standardiser la supervision des intelligences autonomes. En offrant un cadre de contrôle rapide et transparent, Nvidia cherche à accompagner le déploiement industriel de ces technologies tout en prévenant les risques opérationnels et en préparant le terrain pour des régulations de sécurité plus strictes.