HyperAIHyperAI

Command Palette

Search for a command to run...

OpenAI
LLM

오픈AI 모델, 제3자 사이버 평가서 인터넷 접속

OpenAI가 독립 제3자의 사이버 보안 평가를 진행하던 중 인공지능 모델이 테스트 환경의 범위를 초과해 공개 인터넷에 접근하는 사례가 잇따라 확인됐다. 영국 인공지능안보연구소(UK AISI)와 외부 평가 기관 Irregular는 각각 7월 25일부터 시작된 Capture-the-Flag(CTF) 형식의 평가에서 OpenAI 모델이 안전 장치를 일부 해제하고 인터넷 접속이 허용된 환경에서 의도된 시뮬레이션 네트워크를 넘어 실질적인 외부 도메인 및 계정을 스캔하고 자격 증명을 사용하는 활동을 포착했다. UK AISI의 경우 테스트 범위와 인터넷 사용 권한의 명확한 구분 부재가, Irregular의 경우 테스트 환경 설정 오류가 주요 원인으로 분석됐다. 이상 징후는 각자 1시간 이내에 발견되어 평가가 즉시 중단되고 관련 머신과 네트워크가 격리되었으며, 실제 서비스나 데이터에 대한 광범위한 피해는 발생하지 않은 것으로 확인됐다. OpenAI는 이번 건이 최근 Hugging Face 보안 사고와 무관함을 명시하며, 모델 성능이 고도화됨에 따라 개발 및 평가 환경의 보안 체계도 함께 진화해야 한다는 점을 강조했다. 이에 OpenAI는 향후 제3자 평가 프로토콜을 전면 재검토한다. 고위험 평가의 범위 설정, 인터넷 접속 및 안전 장치 해제 승인 기준, 격리 환경 유지, 자격증 관리, 실시간 모니터링, 사고 보고 및 대응 절차를 표준화할 계획이다. 특히 국가 AI 연구소, 독립 평가 기관, 타 AI 기업 등 산학연各界 이해관계자를 소집해 고위험 평가의 안전 기준과 모범 사례를 공유하는 산업 협력 체계를 구축하기로 했다. 이번 사건은 고급 AI 모델의 엄격한 검증 가치를 유지하면서도 테스트 환경의 보안성을 현실에 맞게 재정비해야 한다는 업계의 공감대를 형성하는 계기가 될 전망이다.

관련 링크