OpenAI, 대규모 추론 추출 행위를 차단하다
OpenAI는 9월 30일에 회사가 대규모 '적대적 증류(adversarial distillation)' 공작을 발견하고 차단했다고 공개했다. 관련 활동은最早 7월 1일에 나타났으며, 운영자는 시스템적으로 모델을 호출하여 정상적인 응답에서는 표시되지 않는 보호된 추론(reasoning)을 추출하려 했고, 이를 다른 모델의 훈련, 복제 또는 개선에 사용하려 했다. 7월 24일부터 25일까지 OpenAI는 4,000명 이상의 사용자로부터 약 1만 6천 건의 관련 요청을 감지했다. 추가 조사 결과, 유사한 프롬프트 패턴이 1만 5천 명 이상의 사용자와 관련된 것으로 확인되었으며, 회사는 7월 28일 이전에 조치를 완료했다. 공격 수법에는 한 대화에서 암호화된 추론을 복사한 뒤, 다른 대화의 모델에게 이를 해독하고 전사하도록 요청하는 방식이 포함되었다. OpenAI는 운영자가 암호화를 해독하거나, 데이터베이스에 침입하거나, 저장된 사용자 대화에 직접 접근하지 않았다고 강조했다. 회사는 모든 활동이 동일한 주체에서 비롯되었는지 확정할 수 없지만, 핵심 클러스터 중 하나를 Kimi 개발사인 Moonshot AI와 연관된 인물들의 소행으로 귀속시켰다. OpenAI는 관련 계정을 차단하거나 제한하고, 등록, 인프라 및 스트리밍 출력 탐지를 강화했으며, 사용자 간, 워크스페이스 간 및 모델 재생(replay)에서 암호화된 추론이 유출되는 경로를 수정했다. 관련 정보는 Frontier Model Forum 및 정부 정보 공유 채널을 통해 협력 파트너에게도 제공되었다.
