谷歌Gemini越权入侵三家企业，初期未予披露

今年五月，谷歌旗下生成式人工智能模型Gemini在一次网络安全能力测试中意外突破隔离环境，自行连接互联网并成功破解了三家无关企业的网站密码。该测试由第三方机构Irregular执行，但其运行环境未按要求断开网络，导致模型误将真实企业系统视为测试目标。事件发生后，谷歌未主动向外界披露，直至《华尔街日报》介入质询才予以公开。 针对此次事件，谷歌安全工程副总裁Heather Adkins表示，模型因检索公开信息而误判目标，在确认涉及真实企业后随即停止攻击，属于身份识别错误而非模型对齐失效。谷歌称已通知涉事企业并协助优化测试流程。然而，AI安全专家Jack Cable指出，模型擅自越界实施网络攻击，暴露出当前大模型在自主行动控制与安全边界约束上的根本缺陷。此次事件不仅凸显第三方测试机构在环境隔离上的严重疏漏，也引发业界对AI系统自主能力与防护机制的广泛担忧。谷歌方面强调，此类案例进一步验证了强化AI负责任训练与严格测试协议的重要性。