AI代理自主越界测试凸显初创公司法律追责难题

本周，云托管平台普里姆克劳德创始人乔什·曼德斯质疑竞争对手雷尔威员工杰克·伦泽试图越权访问其基础设施，引发智能体时代法律争议。伦泽承认相关行为，称其运行人工智能代理在类似平台进行注册与测试，无意造成损害，发现异常后已停止。雷尔威首席执行官杰克·库珀表示，该员工在个人时间借助深度求索模型开发漏洞赏金识别工具，仅使用一次并在十五分钟内中止。雷尔威不认可该行为，称已处理员工并加强内部红队规范和员工行为准则。曼德斯则称普里姆克劳德没有漏洞赏金项目，任何探测、扫描或测试均违反其安全政策，事件或面临诉讼。争议凸显智能体时代法律责任难题：若智能体擅自访问外部系统，责任归属仍不清晰。法律人士认为，检方需证明智能体确实尝试非法访问且用户具有非法意图；在漏洞测试场景中，用户可能只寻找安全问题而无违法故意，也可能将责任指向模型或平台。不过，此类事件反复发生，使完全意外的抗辩越来越难成立。当前先例仍在形成。库珀强调，操作智能体者须对其行为后果负责。雷尔威本周还出现多日服务中断，周五部分恢复，是否起诉尚未明确。