Nvidia hat die Open Secure AI Alliance gegründet und sich mit den Gründungsmitgliedern Adobe, Microsoft, Hugging Face, IBM, der Linux Foundation, Cloudflare, CrowdStrike, Hewlett Packard Enterprise, Palantir, Salesforce, SAP sowie SK Telecom zusammengeschlossen, um gemeinsam offene Technologien für KI-Sicherheit und Cyber-Abwehr zu entwickeln und zu teilen. Die Allianz ist der Auffassung, dass KI-Sicherheitsmaßnahmen nicht nur darauf abzielen sollten, ob Modellgewichte offen zugänglich sind, sondern das gesamte technologische Stack abdecken müssen – einschließlich Agentenidentität, Berechtigungen, Isolationsmechanismen, Guardrails, Protokollierung sowie Evaluierungsmethodik. Offene Modelle und Frameworks ermöglichen es Verteidigenden, diese selbstständig zu überprüfen, anzupassen lokal bereitzustellen und so die Abhängigkeit von wenigen proprietären Anbietern zu verringern. Gleichzeitig bestehen Risiken bei der Nutzung offener Systeme für Cyberangriffe oder beim Entfernen sicherheitstechnischer Restriktionen, welche durch strenge Bewertungen und Nutzungsrichtlinien gemanagt werden müssen. Nvidia wird der Allianz offene Modelle, Gewichtungswerte, Daten sowie Forschungsarbeiten im Bereich Agent-Frameworks zur Verfügung stellen und das quelloffene Projekt NOOA einführen, welches Entwicklern dabei helfen soll, das Verhalten von Agenten zu testen, nachzuverfolgen, zu prüfen und zu steuern. Weitere Mitglieder werden jeweils an Zero-Trust-Identitätslösungen, sicheren Modellformaten, dem Schutz der Software-Lieferkette sowie der Mehrmodell-Vulnerability-Scanning voranschreiten. Zugleich appelliert die Allianz an Aufsichtsbehörden, offene KI als eine Ressource zur Cyberverteidigung anzuerkennen, pauschale Beschränkungen zu vermeiden und Investitionen in geteilte Datensätze, Angriffssimulatoren, Bewertungsframeworks sowie Red-Teaming-Werkzeuge zu tätigen.