Nvidia annonce la création de l’Alliance Open pour un IA Sécurisée (Open Secure AI Alliance), réunissant des partenaires fondateurs tels qu’Adobe, Microsoft, Hugging Face, IBM, The Linux Foundation, Cloudflare, CrowdStrike, Hewlett Packard Enterprise (HPE), Palantir, Salesforce, SAP et SK Telecom afin de développer et partager conjointement des technologies ouvertes destinées à la sécurité de l’intelligence artificielle et à la cybersécurité. Selon l’alliance, la sécurité de l’IA ne doit pas se limiter à la question du caractère ouvert ou fermé des poids des modèles ; elle doit couvrir l’ensemble de la pile technologique, incluant l’identité des agents, les autorisations d’accès, les mécanismes d’isolement, les garde-fous (« guardrails »), les journaux d’événements ainsi que les processus d’évaluation. Les modèles et cadres open source permettent aux défenseurs de vérifier, modifier et déployer localement ces solutions par eux-mêmes, réduisant ainsi leur dépendance envers quelques fournisseurs propriétaires. Parallèlement, le risque lié à l’utilisation de systèmes ouverts à des fins d’attaques informatiques ou au contournement des restrictions de sécurité reste une préoccupation majeure qui nécessite une évaluation rigoureuse et une gestion stricte via des règles d’utilisation définies. Nvidia apportera à cette alliance ses recherches sur les modèles ouverts, leurs poids, les données associées ainsi que les frameworks dédiés aux agents, tout en lançant le projet open source NOOA. Ce dernier est conçu pour aider les développeurs à tester, suivre, auditer et gouverner le comportement des agents. Les autres membres travailleront respectivement sur l’authentification dans une approche Zero Trust, les formats sécurisés pour les modèles, la protection de la chaîne logicielle et le scan multi-modèles des vulnérabilités. L’alliance exhorte également les autorités réglementaires à considérer l’IA ouverte comme une ressource défensive, à éviter les mesures restrictives uniformes « coupables sans distinction », et à investir dans des jeux de données partagés, des simulateurs d’attaque, des cadres d’évaluation et des outils de test intrusif (« red teaming »).