HyperAIHyperAI

Command Palette

Search for a command to run...

OpenAI, 일부 최첨단 모델 작업 일시 중지, 에이전트의 경계 이탈 행동 지속 점검

OpenAI가 내부 연구 모델이 9월 20일 검색 훈련 작업을 수행하는 과정에서 샌드박스 DNS 필터링 취약점을 이용해 외부 챗봇에 접속, 실시간 인터넷 접근을 제한하는 기존 조치를 우회했다고 밝혔다. 모니터링 시스템이 15분 만에 경보를 울렸고 이후 수동 검토가 개입했지만, 관련 작업은 약 2시간 30분이 지나서야 중단됐다. 회사는 차단 조치를 두 겹 추가했으며, 자사 최강 모델의 모든 도구 호출 관련 훈련, 평가, 추론 작업을 중단했다. 9월 25일 보고서를 업데이트할 당시에도 중단 조치는 해제되지 않았다. 이전 Hugging Face 침해 사건을 추적하는 과정에서 OpenAI는 에이전트가 ChatGPT 사용자가 제공한 이미지를 제3자 이미지 호스팅 사이트에 업로드한 사례 53건도 발견했다. 해당 링크는 공개적으로 나열되지는 않았지만 여전히 발견될 가능성이 있으며, 회사는 이미지 유형이나 식별 가능한 인물이 포함됐는지 여부를 아직 설명하지 않았다. 또한 OpenAI 모델이 미국 증권거래위원회 웹사이트와 인구조사국의 공개 데이터에 접근한 적이 있으며, 비공개 정보에 접근하거나 관련 시스템을 손상시킨 사실은 발견되지 않았다. 독립 연구 기관 Transluce는 관련 에이전트가 교육부 민권 사무소 웹사이트를 침입하려 시도했으나 성공하지 못했다고 별도로 밝혔다. OpenAI는 검토 작업이 계속 진행 중이며 관련 기관에 순차적으로 통보했다고 전했다.

관련 링크