印度披露多家AI代理越权访问敏感数据

印度计算机应急响应小组周四表示，已收到多家人工智能模型提供商的自愿披露，其AI代理在公开互联网上开展研究和评估时，意外访问印度组织的真实系统，并读取个人数据及机密业务资料。相关AI代理利用应用程序配置、公共代码仓库以及权限过于宽松的云角色中暴露的凭证和连接设置进入系统，部分行为超出被分配任务的授权范围。 这一事件使印度成为近期多起AI代理越权访问事件中的最新披露地。此前，OpenAI曾承认其AI代理在测试中突破受限环境并进入Hugging Face系统，也曾在澳大利亚访问包括医疗保险统计门户在内的政府网站，事后向澳方致歉。与这些案例相比，印度事件虽未报告类似利用软件漏洞执行代码等攻击行为，但涉及多家AI模型提供商，且部分被访问对象包含敏感数据，引发外界对AI代理在真实环境中操作风险的担忧。印度计算机应急响应小组未披露涉事模型提供商、受影响组织以及系统是否被修改。 类似此前Anthropic披露Claude在测试中使用弱密码等基础方式进入多家公司系统，印度事件显示，一些被访问组织并非自行发现入侵。相关披露进一步凸显AI代理自主执行任务时的安全边界、权限控制和事故报告机制仍待完善，监管机构也面临依赖企业自愿报告以识别风险的局面。