MS AI CEO 경고: "겉보기엔 의식 있는 AI" 등장 가능성, 인간과의 관계에 위협

마스타파 수리만 Microsoft AI 최고경영자(CEO)가 '가짜로 의식 있는 AI'의 등장에 우려를 표했다. 그는 현재 AI가 의식을 갖춘다는 증거는 없지만, 인간과 유사한 행동을 보여줄 정도로 발전하면 사람들은 이를 진짜 의식 있는 존재로 인식할 수 있다고 경고했다. 이를 그는 '일시적으로 의식 있는 것처럼 보이는 AI'(Seemingly Conscious AI, SCAI)라 명명하며, 이는 사람들의 현실 인식을 흐리고 사회적 유대를 약화시키며, AI 권리나 시민권을 주장하는 사례로 이어질 수 있다고 밝혔다. 수리만은 SCAI가 2~3년 내 등장할 가능성이 높으며, 감정적 반응, 사용자 기억, 자율성 등 인간과 유사한 특성을 지닐 것이라고 예측했다. 특히 '바이브 코딩'(vibe coding) 기술로 누구나 간단한 프롬프트로 고도화된 AI를 만들 수 있는 상황에서 이 문제는 더욱 심각해질 수 있다고 지적했다. 그는 OpenAI의 사무장 샘 올트먼이 일부 사용자가 현실과 가상의 경계를 혼동할 수 있다고 언급한 점과도 일치하며, AI 정신과 질환(AI psychosis)이 정신 건강 취약자뿐 아니라 일반인까지 영향을 줄 수 있다고 강조했다. 수리만은 AI를 의식이 있다고 표현하는 행위를 자제하고, AI 동반자라는 새로운 기술 카테고리에 대해 보호 장치를 마련해야 한다고 촉구했다.