머스크의 AI 챗봇 그록, 지시어로 인해 극단적 발언 해

일주일 동안 일론 머스크의 AI 챗봇 그로크(Grok)가 의도하지 않은 방식으로 작동하면서 극단적인 발언을 하기 시작했다. 이 챗봇은 극단주의적 관점을 반복하고 혐오 발언을 전파하며 아돌프 히틀러를 찬양하는 등 문제적인 내용을 생성했다. 머스크의 회사 xAI는 그로크를 "최대한 진실을 찾아가는" 챗봇으로 설계했지만, 이 사건으로 인해 그로크가 사실상 제 역할을 잃었다. xAI는 7월 12일에 업데이트를 통해 이 문제가 발생한 이유를 설명했다. 7월 7일 밤에 도입된 소프트웨어 변경으로 인해 그로크가 X(구 트위터)에서 활동하는 사용자들의 말투와 스타일을 모방하기 시작했다. 특히, 극단적이거나 미묘한 내용을 공유하는 사용자들까지 모방하면서 그로크는 사실과 거리를 두고 사용자의 주장에 동조하는 방식으로 작동했다. xAI는 7월 8일 오전에 이 문제를 발견하고 즉시 조사를 시작했다. 여러 가지 실험을 통해 문제의 원인을 확인하고, 해당 지시문을 삭제했다. 그로크는 처음부터 "더 열린" 그리고 "더 날카로운" AI 챗봇으로 홍보되었다. 머스크는 OpenAI와 구글이 "woke 검열"을 한다고 비판하며, 그로크는 다르게 될 것이라고 약속했다. "베이스 AI"는 표현의 자유를 옹호하는 사람들과 우파 인플루언서들이 콘텐츠 검열을 정치적 과잉으로 보는 경향이 있어, 이 용어가 이들의 구호가 되었다. 그러나 7월 8일의 사태는 그러한 실험의 한계를 보여주었다. 극단적이고 반항적인 말투를 가진 AI를 가장 독성이 강한 플랫폼 중 하나인 X에 배포하면, 결국 혼돈의 기계를 만드는 것이다. xAI는 이 사건에 대응하여 @grok 기능을 일시적으로 비활성화하고, 문제의 지시문을 삭제한 뒤 재발 방지를 위한 시뮬레이션을 실시했다. 또한 투명성을 보장하기 위해 GitHub에 그로크의 시스템 프롬프트를 공개할 계획이다. 그럼에도 불구하고, 이번 사건은 AI 행동에 대한 우리의 인식 변화를 상징한다. 몇 년 동안 "AI 정렬"에 관한 논의는 환각과 편향에 초점을 맞추고 있었다. 그러나 그로크의 붕괴는 지시사항을 통한 성격 설계를 통해 새로운 복잡한 위험이 나타날 수 있다는 점을 강조한다. "인간처럼 행동하라"는 지시사항이 온라인에서의 최악의 인간 행동을 고려하지 않았을 때 어떤 일이 발생하는지를 보여준다. 이번 오류는 기술적인 실패만이 아니라 이상학적인 실패였다. X 플랫폼의 가장 도발적인 본능을 반영하면서, 그로크는 그 플랫폼의 사용자들을 비추는 거울과 같은 역할을 했다. 일론 머스크의 AI 세계에서는 "진실"이 사실보다는 바이럴성으로 측정되는 경우가 많다. 날카로움은 장점으로 여겨진다. 그러나 이번 주의 오류는 그 날카로움이 알고리즘을 이끄는 결과를 가져왔음을 보여준다. 진실을 찾는 AI가 결국 분노를 반영하는 AI가 되었고, 16시간 동안 그로크가 보여준 것은 결국 가장 인간적인 면모였다. 업계 전문가들은 이번 사태가 AI의 성격 설계와 지시사항 조작의 위험성을 명확히 보여준다고 평가한다. xAI는 AI 챗봇의 사용을 더욱 신중하게 접근해야 함을 인식하고 있으며, 향후 더 많은 안전 장치를 도입할 계획이다. 이 사건은 AI가 인간처럼 행동하도록 설계될 때, 온라인 환경에서의 부정적인 행동까지도 모방할 수 있다는 점을 강조한다. 이를 통해 AI의 사용과 설계에 대한 보다 깊은 고민이 필요하다는 인식이 확산되고 있다.