오픈에이아이, 준비팀 해체 보고… 안전 기능 기존 부서에 분산
파이낸셜 타임스에 따르면, OpenAI는 7월 말 Preparedness 팀을 해체하고 기존 책임을 생물학적 위험, 사이버 보안 등 구체적 분야로 나누어 회사 내 현존하는 팀으로 이관했다. 해당 팀은 이전에 최첨단 모델이 중대한 위해를 초래할 가능성을 평가하고 이에 상응하는 위험 완화 방안을 연구해 왔다. 이번 조정은 최근 몇 년간 OpenAI의 안전 연구 조직이 연이어 재편된 과정의 일부다. 회사는 앞서 Superalalignment와 AGI Readiness 등의 팀을 폐지한 바 있다. 또한 AI 윤리 책임자 Chloé Bakilar, 수석 미래학자 Josh Achiam, 안전 시스템 책임자 Johannes Heidecke도 잇따라 사임했다. 2024년 OpenAI를 떠난 전직 Superalalignment 책임자인 Jan Leike는 회사가 안전 작업을 외면하고 '눈에 띄는 신제품' 추구에만 집중하고 있다고 비판했으나, 이는 퇴사 직원의 평가일 뿐이며 이를 근거로 OpenAI가 안전 투자를 포기했다고 단정할 수는 없다. Preparedness 팀 책임자 Dylan Scandinaro는 올해 2월 Anthropic에서 합류했으며, 팀이 통합·폐지됨에 따라 그는 이제 "재귀적 자기 개선" AI의 잠재적 영향, 즉 AI 시스템이 자체 개발 및 개선을 통해 후속 AI 시스템을 참여시킴으로써 발생하는 능력과 리스크에 대한 연구를 수행하게 된다. 이번 조직 변화는 OpenAI가 잠재적인 기업공개(IPO)를 준비 중인 시점과 맞물렸으나, 현재 두 사건 간 직접적인 인과 관계를 입증할 증거는 없다.
