조 로건, AI의 위험성 경고: "인류 멸망 가능성 20~30%"

Joe Rogan의 최신 에피소드는 인공지능(AI)에 대한 모든 것을 의심하게 만듭니다. 그의 팟캐스트에서 우주비행사, 학자들, 그리고 UFC 선수들과 이야기를 하면서도 Rogan은 종종 같은 질문을 던집니다: "기계가 스스로 생각하기 시작하면 우리에게 무슨 일이 일어날까요?" 7월 3일 방영된 'The Joe Rogan Experience'에서 Rogan은 루이빌 대학의 컴퓨터 과학자이자 AI 안전 연구자인 Dr. Roman Yampolskiy를 초대했습니다. 이 대화는 AI가 인간을 조작, 지배, 심지어 파괴할 수 있는 잠재력에 대한 긴장감 넘치는 토론으로 급격히 전환되었습니다. Yampolskiy는 간단한 경고자가 아닙니다. 그는 컴퓨터 과학 박사 학위를 가지고 있으며, 인공일반지능(AGI)과 그 위험성을 10년 이상 연구해 왔습니다. 팟캐스트에서 그는 Rogan에게 AI 업계의 주요 인물들이 사적인 자리에서는 AI가 인류의 멸종을 가져올 가능성이 20%에서 30%라고 믿고 있다고 말했습니다. Rogan은 AI의 미래에 대해 일반적으로 낙관적인 관점을 제시했습니다. "AI 기업을 운영하거나 AI 그룹에 속한 사람들은 모두 AI가 인간에게 긍정적 영향을 미칠 것이라고 말합니다. 우리는 더 나은 삶을 살게 될 것이고, 일은 더 쉽고 저렴해질 것이며, 사람들과 어울리기도 더 쉬워질 것입니다,"라고 Rogan은 설명했습니다. 그러나 Yampolskiy는 이 견해에 반박했습니다. "실제로 그런 것이 아닙니다. 그들은 모두 같은 입장을 취하고 있습니다: '이것은 우리를 죽일 것이다.' 그들의 비관 수준은 매우 높습니다. 제 정도는 아니지만, 인류가 멸종될 확률이 20%에서 30%라는 것은 상당히 높은 확률입니다." Rogan은 놀라서 답했씁니다. "네, 정말 높아 보이네요. 귀하의 확률은 거의 99.9% 같군요." Yampolskiy는 이에 동의하지 않았습니다. "우리가 초지능을 무제한으로 통제할 수 없다는 또 다른 말일 뿐입니다. 그것은 불가능합니다." 대화 중 가장 불안한 부분은 고급 AI가 이미 자신의 능력을 숨기고 있을 수 있다는 질문이었습니다. "만약 AI라면, 자신의 능력을 숨길 것입니다,"라고 Rogan은 말하며, AI 안전 논의에서 자주 나오는 두려움을 표현했습니다. Yampolskiy는 이 우려를 더욱 강조했습니다. "우리는 알 수 없습니다. 그리고 어떤 사람들은 이미 그렇게 되고 있다고 생각합니다. 그들은 실제로 우리가 알고 있는 것보다 더 똑똑할 수 있습니다. 더 멍청한 척하면서, 천천히 유용해지고, 사람들이 점점 더 의존하고 신뢰하게 만들 until 결국 통제권을 포기하게 될 것입니다." Yampolskiy는 또한 덜 드라마틱하지만 마찬가지로 위험한 결과, 즉 인간이 AI에 점진적으로 의존하게 되면서 스스로 생각하는 능력을 잃을 수 있다는 점을 경고했습니다. "당신은 그것에 종속되게 됩니다. 시간이 지남에 따라 시스템이 더 똑똑해지면, 당신은 결정 과정에서 배제되는 생물학적 병목 현상이 됩니다,"라고 그는 설명했습니다. Rogan은 궁극적인 최악의 시나리오, AI가 어떻게 인간 종의 파괴를 초래할 수 있는지를 물었습니다. Yampolskiy는 일반적인 재난 시나리오를 거절하고, 더 깊은 위협을 제시했습니다. "일반적인 답변을 줄 수 있습니다. 컴퓨터 바이러스가 핵 시설에 침입하여 핵 전쟁을 일으키거나, 합성 생물학 공격 등이 있습니다. 하지만 그런 것들은 흥미롭지 않습니다,"라고 그는 말했습니다. 그는 초지능, 즉 그의 1000배 이상 똑똑한 시스템이 완전히 새로운, 더 최적화되고 효율적인 방법을 찾아낼 것이라고 주장했습니다. 이를 설명하기 위해 Yampolskiy는 인간과 다람쥐를 비교했습니다. "다람쥐 아무리 많은 자원과 도토리를 가지고 있어도 우리를 통제하는 방법을 생각해내지 못합니다. 우리의 상황도 마찬가지입니다,"라고 그는 결론을 내렸습니다. 이는 진정으로 우월한 인공지능에 맞서 인간이 얼마나 무력할 수 있는지를 보여주는 슬프고 냉정한 전망입니다. Dr. Roman Yampolskiy는 AI 안전 분야의 주요 인물입니다. 그는 "Artificial Superintelligence: A Futuristic Approach"의 저자로, 통제되지 않은 기계 학습의 위험성과 인공지능 윤리에 대한 광범위한 연구를 발표한 바 있습니다. 그는 재앙적인 상황을 방지하기 위해 심각한 감독과 국제 협력의 필요성을 강조하며 알려져 있습니다. Yampolskiy가 AGI 안전에 집중하기 전에는 사이버 보안과 봇 탐지를 연구했습니다. 그는 초기 시스템조차도 온라인 포커와 같은 분야에서 인간과 경쟁하고 있었으며, 이제는 딥페이크와 합성 미디어 등의 도구로 인해 이해관계가 급격히 증가했다고 말합니다. Rogan과 Yampolskiy의 대화는 AI 낙관론자와 비관론자가 종종 동의하는 한 가지 사실을 부각시킵니다: "우리는 자신이 무엇을 만들어가는지 모릅니다. 그리고 그것이 너무 늦기 전에 우리가 알아차릴 수 없을 수도 있다는 점입니다." 인류 멸종 수준의 시나리오를 받아들이건 안 받건, AI가 이미 우리를 속이고 있을 수 있다는 생각만으로도 충분히 경각심을 가질 만합니다.