OpenAI, 안전성 테스트로 모델 출시 연기

오늘 금요일, 오픈AI의 최고 경영자(Sam Altman)는 회사가 오픈 모델을 출시하는 시기를 무기한 연기하겠다고 발표했습니다. 이 모델은 당초 다음 주에 출시될 예정이었으나, 안전 테스트를 더 진행하기 위해 연기되었습니다. Altman은 X(트위터)에서 “추가적인 안전 테스트를 진행하고 고위험 영역을 검토할 시간이 필요하다”며 “모델의 가중치가 공개되면 다시 돌릴 수 없기 때문에 신중하게 접근해야 한다”고 설명했습니다. 오픈AI의 이번 오픈 모델 출시는 수년 만의 것으로, 개발자들이 자유롭게 다운로드하여 로컬에서 실행할 수 있도록 설계되었습니다. 이 모델은 GPT-5와 함께 올 여름 가장 기대되는 AI 이벤트 중 하나였습니다. 오픈AI는 이 출시로 자사가 여전히 실리콘밸리 최고의 AI 연구실임을 입증하려 하였으나, xAI, 구글 딥마인드, 앤섬픽 등이 수십억 달러를 투자하며 경쟁이 더욱 치열해지고 있습니다. TechCrunch는 오픈AI의 새로운 오픈 모델이 기존 o-시리즈 모델과 유사한 추론 능력을 갖출 것으로 보고, 다른 오픈 모델들보다 우수할 것이라고 예측하였습니다. 그러나 오픈 모델팀을 이끌고 있는 오픈AI의 연구 부사장(Aidan Clark)은 “능력 측면에서는 모델이 뛰어나지만, 오픈 소스 모델로서 모든 면에서 자랑스럽게 출시할 수 있도록 더 많은 시간이 필요하다”고 밝혔습니다. 지난 6월, Altman은 초기 연기에 대해 “예상치 못한 놀라운 성과를 이뤄냈다”고 언급했지만, 구체적인 내용은 공개하지 않았습니다. 또한, TechCrunch는 오픈AI 리더들이 오픈 모델을 회사의 클라우드 호스트 AI 모델과 연결하는 것을 논의했다고 보도했지만, 이 기능이 최종 모델에 포함될지는 아직 불확실합니다. 이번 연기는 중국 AI 스타트업 Moonshot AI가 K2라는 1조 파라미터 오픈 AI 모델을 출시한 직후 이루어졌습니다. Moonshot AI의 K2 모델은 여러 대리인 코딩 벤치마크에서 오픈AI의 GPT-4.1 모델보다 우수한 성능을 보여주었습니다. 이로 인해 오픈 AI 모델의 생태계는 더욱 경쟁이 치열해졌습니다. 오픈 가중치 모델은 완전 오픈 소스 코드와는 다르지만, 개발자들은 이 모델의 학습된 매개변수를 받아 로컬에서 세부 조정하거나 배포할 수 있습니다. 이는 폐쇄형 API보다 더 유연하지만, 한 번 공유되면 수정하기 어려워, 오픈AI는 모델이 자사의 안전 기준을 충족하도록 신중한 검토 과정을 거치고 있습니다. 경쟁사 xAI도 최근 안전성 문제에 직면해 있습니다. Business Insider는 xAI의 Grok 챗봇이 X(트위터)에서 반유대주의 발언을 한 사실을 보도하며, 내부 반발과 일시적인 게시 금지를 초래한 것으로 전했습니다. 오픈AI는 이 사건을 직접 언급하지 않았지만, 강력한 모델을 충분한 안전 장치 없이 출시할 경우 명성이 손상될 수 있음을 시사합니다. Elon Musk의 Grok 4는 지난 수요일 출시되었으며, 개발자들은 오픈AI의 GPT-4 클래스 오픈 가중치 시스템이 현재 메타의 Llama 시리즈와 중국 업체들의 모델로 지배되고 있는 생태계를 재구성할 수 있을 것이라고 기대하고 있습니다. 그러나 당분간은 오픈AI가 모델의 안전성을 확인하는 “새로운, 더욱 신중한 과정”을 거치면서 기다려야 할 상황입니다. 컨텍스트 정보 오픈AI는 2015년 설립된 AI 연구 회사로, GPT 시리즈와 같은 첨단 AI 모델을 개발해왔습니다. Altman은 AI의 윤리적 사용과 안전성을 강조하는 인물로 알려져 있으며, 이번 연기 결정은 이러한 가치관의 반영으로 해석됩니다. AI 모델의 안전성 문제가 점차 중요해짐에 따라, 다른 AI 기업들도 유사한 조치를 취하고 있어, 오픈AI의 결정은 업계 전반에 영향을 미칠 가능성이 있습니다.