인공지능 개발 경쟁에서 OpenAI의 책임론 제기

‘오픈AI 파일’은 인공일반지능 개발 경쟁에서 감독을 촉구한다. 오픈AI의 CEO 사ム 알트만(Sam Altman)은 인간이 대부분의 노동을 자동화할 수 있는 인공일반지능(AGI, Artificial General Intelligence)을 몇 년 안에 개발할 수 있다고 말했다. 만약 이것이 사실이라면, 이러한 놀라운 변화를 주도하는 사람들과 기제에 대해 인류가 이해하고 의견을 제시할 권리가 있다. 이 목표를 달성하기 위해 비영리 기술감시단체인 미다스 프로젝트(Midas Project)와 테크 오버사이트 프로젝트(Tech Oversight Project)가 공동으로 ‘오픈AI 파일(The OpenAI Files)’이라는 아카이브 프로젝트를 시작했다. 이 파일은 오픈AI의 거버넌스 관행, 리더십의 정직성, 조직 문화에 대한 문서화된 우려사항을 모아놓은 것이다. 단순히 문제점을 제기하는 것뿐만 아니라, 오픈AI와 다른 AI 선두 기업들이 책임 있는 거버넌스, 윤리적인 리더십, 공유된 혜택에 초점을 맞춘 미래의 길을 제안하고자 한다. “이처럼 중요한 프로젝트를 이끌어가는 거버넌스 구조와 리더십의 정직성이 그 임무의 중대성과 심각성을 반영해야 합니다. AGI 개발 경쟁을 주도하는 회사들은 매우 높은 기준을 충족해야 하며, 스스로 그런 기준을 지키도록 해야 합니다”라고 해당 웹사이트의 변화에 대한 비전(Vision for Change) 섹션은 강조한다. 그러나 현재 AI 기업들의 우위를 차지하기 위한 경쟁은 무분별한 확장, 즉 모든 비용을 감수하고 성장하려는 태도로 나타나고 있다. 이를 통해 오픈AI와 같은 기업들은 동의 없이 콘텐츠를 수집하여 학습 자료로 활용하고 있으며, 대규모 데이터 센터를 건설하여 지역 소비자들에게 전력 부족과 전기 요금 상승을 초래하고 있다. 또한 투자자들이 이익을 얻기 위한 압박으로, 기업들은 필요한 안전 장치를 마련하지 않은 채 제품을 시장에 내보내는 경우가 많다. 투자자들의 압력은 오픈AI의 핵심 구조에도 변화를 가져왔다. 초기 비영리 단체로서 오픈AI는 AGI를 달성하면 그 수익의 최대 100배까지만 투자자에게 제공하겠다고 제한을 두었다. 그러나 이후 회사는 이 제한을 폐지하고, 투자자들이 자금 조달을 조건부로 요구한 구조적 개혁을 받아들였다고 밝혔다. ‘오픈AI 파일’은 오픈AI의 서두르는 안전성 평가 과정과 “무모한 문화”를 비롯한 여러 문제점들을 제기한다. 또한 오픈AI의 이사회 구성원들과 알트만 본인의 이해상충 가능성을 지적하며, 알트만이 직접 투자한 스타트업들의 사업이 오픈AI와 겹치는 부분도 포함되어 있다. 2023년에는 고위 직원들이 알트만을 “기만적이고 혼란스러운 행동”으로 인해 해임하려고 시도하면서 그의 정직성에 대한 의문이 제기되었다. "사무엘은 AGI의 버튼을 누르는 사람이 되어서는 안 된다"는 오픈AI의 전 최고과학책임자 이리아 수츠케버(Ilya Sutskever)의 발언도 당시에 보도되었다. ‘오픈AI 파일’에서 제기된 질문과 제시된 해결책들은 거대한 권력이 소수의 손에 집중되어 있다는 점을 상기시킨다. 이 프로젝트는 이러한 권력의 투명성과 감독의 부족을 드러내고, 불가피성에서 책임감으로 대화의 방향을 전환하려는 시도이다. 기술 업계 인사이더들은 이 프로젝트를 통해 오픈AI의 거버넌스와 리더십에 대한 심도 있는 고찰이 필요하다고 평가한다. 오픈AI는 현재 AI 분야의 선두주자로서, 그들의 행동이 미래의 AI 발전 방향에 큰 영향을 미칠 것이기 때문이다. 또한, 이 프로젝트가 오픈AI를 비롯한 다른 AI 기업들에게 더욱 책임감 있는 접근을 요구함으로써 AI 산업의 건강한 발전을 촉진할 것으로 기대된다.