Nvidia牵头成立开放安全AI联盟
Nvidia宣布成立Open Secure AI Alliance,联合Adobe、微软、Hugging Face、IBM、Linux基金会、Cloudflare、CrowdStrike、HPE、Palantir、Salesforce、SAP、SK电讯等创始伙伴,共同开发和共享用于AI安全及网络防御的开放技术。 联盟认为,AI安全不能只关注模型权重是否开放,还应覆盖agent身份、权限、隔离机制、guardrail、日志及评估等完整技术栈。开放模型和框架可供防守方自行检查、修改和本地部署,降低对少数闭源供应商的依赖;与此同时,开放系统被用于网络攻击或移除安全限制的风险仍需通过严格评估和使用规则管理。 Nvidia将向联盟贡献开放模型、权重、数据及agent框架研究,并推出开源项目NOOA,用于帮助开发者测试、追踪、审计和治理agent行为。其他成员将分别推进零信任身份、安全模型格式、软件供应链保护及多模型漏洞扫描。 联盟同时呼吁监管机构把开放AI视为防御资源,避免一刀切限制,并投资共享数据集、攻击模拟器、评估框架和red teaming工具。
