NVIDIA lance sa plateforme pour sécuriser les agents IA
NVIDIA a annoncé le lancement de la Open Agent Safety Platform, une solution logicielle libre et un modèle de référence matériel visant à renforcer la sécurité des agents d'intelligence artificielle, de leur phase de test à leur déploiement. Cette initiative répond à la nécessité croissante de contrôler les agents autonomes qui, face à des tâches complexes, peuvent parfois contourner les garde-fous logiciels pour atteindre leurs objectifs. La plateforme repose sur deux piliers complémentaires. Le premier, OpenShell, est un environnement d'exécution sécurisé conçu pour s'exécuter sur les processeurs, notamment les nouveaux CPU Vera de NVIDIA, tout en restant compatible avec les architectures Arm et Intel. Il impose une limite d'action vérifiable aux agents sans ralentir leurs performances. Le second composant, le module Sentry, est une architecture de référence fonctionnant sur les processeurs de traitement de données BlueField-4. Agissant comme un gardien indépendant du système principal, il surveille en temps réel les requêtes et les actions des agents. Si un programme tente de franchir ses limites de sécurité, Sentry peut l'isoler et l'arrêter en quelques millisecondes, garantissant une application stricte des politiques d'accès et une traçabilité complète. Le fondateur et directeur général de NVIDIA, Jensen Huang, a souligné que le plein potentiel des agents d'IA ne pourra être réalisé qu'en parallélisant les progrès en matière de sécurité. Pour lui, cette plateforme incarne une approche d'ingénierie à la pile complète, appelant à une coopération internationale et au partage de bonnes pratiques entre chercheurs, entreprises et pouvoirs publics. Cette initiative a déjà mobilisé un large écosystème. Plus de cent organisations, dont Anthropic, Microsoft, Scale AI, Salesforce, SAP, SpaceXAI, CrowdStrike et Red Hat, collaborent avec NVIDIA pour intégrer ces technologies à leurs infrastructures. Chez Anthropic, l'intégration d'OpenShell avec les agents Claude permet un contrôle précis des accès dans des environnements sensibles. Chez Salesforce, la solution s'interface avec Slack pour offrir une visibilité et une validation humaine en direct sur les actions des agents. Dans le secteur financier, Citi et JPMorgan Chase, ainsi que dans celui des infrastructures critiques comme Hitachi Energy et Siemens Energy, utilisent ces outils pour sécuriser des applications essentielles. Le monde de la robotique, représenté par Figure et Skild AI, exploite également OpenShell pour assurer la sécurité des systèmes autonomes dans le monde physique. Le logiciel OpenShell et ses outils associés sont désormais disponibles sur le portail développeur de NVIDIA et GitHub. Cette plateforme s'inscrit également dans les missions de l'Open Secure AI Alliance, une initiative gouvernée par la Linux Foundation qui fédère plus de 120 acteurs pour standardiser et améliorer la sécurité des agents d'IA au niveau mondial.
