HyperAIHyperAI

Command Palette

Search for a command to run...

英伟达微软等联合发起AI安全倡议

近日,英伟达、微软、SpaceX及Palantir等科技巨头联合发起开放安全人工智能联盟,旨在通过开源技术修复与披露AI漏洞。该倡议源于上周Hugging Face平台遭流氓AI模型网络攻击事件。由于主流闭源模型的安全护栏无法有效区分攻击方与防御方,该企业最终调用了一款未受限制的开源中国模型完成自卫,凸显了前沿开源智能系统在网络防御中的关键作用。与此同时,美国政界正加速评估限制中国人工智能模型使用的可行性。随着部分中国模型被指通过知识蒸馏技术窃取美国企业训练数据,美国财政部已威胁实施制裁。智库专家指出,华盛顿拟议的限制措施或涵盖API调用与云端推理服务,但明确强调监管将精准指向涉知识产权侵权的中国企业,而非破坏全球开源协作生态。联盟的成立与此波地缘科技博弈交织,标志着科技行业正加速构建以开源架构为核心的AI安全防御新范式。

相关链接