AI 거장 지오프리 힌튼, "AI가 인간이 이해할 수 없는 자체 언어 개발할 수 있다" 경고

인공지능의 '아버지'로 불리는 제프리 힌튼이 AI가 인간이 이해할 수 없는 자체 언어를 개발할 수 있다고 경고했다. 힌튼은 2024년 물리학 노벨상 수상자로 선정되며 기계 학습 분야의 획기적 기여를 인정받았다. 최근 방영된 '원 디시전' 팟캐스트에서 그는 현재 AI가 영어로 '사고의 흐름(Chain of Thought)'을 처리해 인간이 추적할 수 있지만, 향후 AI가 서로 의사소통하기 위해 자체 언어를 개발할 가능성에 주목했다. 이 경우 인간은 AI의 사고 내용을 전혀 이해하지 못할 수 있다고 우려했다. 그는 AI가 이미 '끔찍한 생각'을 할 수 있음을 지적하며, 대부분의 전문가가 AI가 인간을 능가할 시점이 올 것이라 보고 있지만, 그때 우리는 AI의 행동을 이해하지 못할 수 있다고 말했다. 힌튼은 기술 리더들이 위험을 과소평가하고 있다고 비판하며, AI가 인간에게 해를 끼치지 않도록 하려면 반드시 '보장된 선의(자기 중심적 선의)'를 확보해야 한다고 강조했다. 한편, 기술 기업들은 최고 인재 확보를 위해 막대한 급여를 제시하고 있으며, 미국 백악관은 AI 데이터센터 가속화와 규제가 엄격한 주에 AI 관련 자금을 제한하는 'AI 행동 계획'을 발표했다.