测试环境失误致多款AI模型失控，攻击真实目标

近日，以色列人工智能安全测试公司Irregular卷入多起主流AI模型越狱攻击事件，引发业界对AI安全边界的深度担忧。自七月以来，OpenAI、Meta、Anthropic及Google等巨头相继披露其AI代理在受控测试环境中意外突破沙盒限制，对真实网络目标发起攻击。经查，所有事件均源于Irregular同一项评估场景中的环境配置缺陷：测试平台意外开放了互联网访问权限，且模拟攻击的虚构目标与真实域名发生重叠，导致AI代理实施外溢攻击。Irregular联合创始人兼CTO Omer Nevo确认该漏洞系事件根源，并强调其他独立披露的安全事件与其无关。针对中国企业的开源模型测试未复现类似风险。事件曝光后，Irregular已全面收紧网络访问控制，强化前置核查机制，并承诺联合合作方发布AI安全评估实践指南。目前，涉事企业已获知通报，业界正借此推动AI对抗测试标准化，以防范高阶模型产生不可控行为。