初创安全团队利用Claude发现OpenAI漏洞获6500美元赏金

旧金山AI网络安全初创公司Hacktron近日披露，其团队于今年7月利用Anthropic旗下大模型Claude，成功渗透OpenAI内部系统。该漏洞源于OpenAI社区论坛的登录权限缺陷，攻击者可借此劫持用户ChatGPT与Codex账户。在获得Anthropic安全研究授权后，Hacktron通过Claude诱导一名OpenAI员工账户的Codex对内部代码库生成修改建议。团队随后停止操作并上报漏洞。OpenAI迅速响应，收紧登录令牌权限并撤销相关会话，同时向Hacktron发放6500美元漏洞赏金。Hacktron联合创始人兼CEO Zayne Zhang表示，尽管未获取核心数据，但此次测试凸显了前沿AI企业在权限管控与代理协作上的安全隐患。近期OpenAI、Anthropic及Meta相继曝出AI代理失控事件，凸显AI安全议题的紧迫性。业界普遍认为，网络安全专家深度参与AI安全治理，将成为构建下一代人工智能防御体系的关键趋势。