OpenAI 공동설립자, AI 감독 필요성 강조: "오류를 범한다"

OpenAI의 공동 설립자 Andrej Karpathy가 이번 주 초 Y Combinator가 주최한 행사에서 인공지능(AI)의 감독 필요성을 강조했다. 컴퓨터 과학자인 Karpathy는 “AI를 줄에 묶아두어야 한다”고 말하며, 현재 대형 언어 모델(Large Language Models, LLMs)이 인간이 범하지 않을 오류를 저지를 수 있음을 지적했다. Karpathy는 LLMs를 "사람의 영혼"에 비유했다. 이들은 인간의 지능을 모방하면서도 사실을 착각하거나 자아 인식이 부족하고, 기억력 문제가 있다는 것이다. 예를 들어, LLMs는 9.11이 9.9보다 크다고 주장하거나 '스트로베리'라는 단어에 두 개의 'R'이 있다고 말할 수도 있다. 이러한 오류는 AI가 어떤 문제 해결 영역에서는 초인적 능력을 보이지만, 다른 부분에서는 인간이 범하지 않을 실수를 하기 때문이라고 설명했다. Karpathy는 개발자들이 AI에게 코드 작성을 맡기는 것에 대해 신중해야 한다고 강조했다. LLMs가 몇 초 만에 1만 줄의 코드를 생성할 수 있지만, 그 코드에 버그가 포함될 가능성이 있으므로 개발자들이 여전히 중요한 역할을 해야 한다는 것이다. “나가 아직도 병목 현상”이라는 표현으로 자신이 AI의 결과물을 검증하고 관리하는 역할을 강조했다. 그는 AI가 “과하게 반응”한다고 덧붙였다. 개발자들에게는 구체적인 프롬프트(prompt)를 작성하는 것이 중요하다고 조언했다. “작은 단계로 점진적으로 접근해야 합니다. 모든 것이 잘 진행되고 있는지 확인해야 합니다”라고 말했다. 그는 “구체적인 프롬프트를 작성하는 데 조금 더 시간을 들이는 것이 성공적인 검증 확률을 높이고, 안전하게 전진할 수 있게 해줍니다”라고 덧붙였다. Karpathy뿐만 아니라 다른 전문가들도 AI 사용에 대해 신중함을 권유하고 있다. Bob McGrew, OpenAI의 전 연구 책임자는 recently Sequoia Capital의 “Training Data” 팟캐스트에서 인간 엔지니어의 역할이 여전히 필수적이라고 말했다. AI가 이해하기 어려운 상황이나 문제가 발생했을 때 인간 엔지니어가 문제를 분해하여 AI가 해결할 수 있도록 돕는 역할이 필요하다는 것이다. Kent Beck, “애자일 선언문”의 저자 중 한 명은 최근 “The Pragmatic Engineer” 팟캐스트에서 AI를 “제니”에 비유했다. 제니는 당신의 소원을 들어주지만, 항상 원하는 방식으로 이루어지지는 않는다는 것이다. Beck은 “AI는 당신의 의도대로 행동하지 않습니다. 그들 나름의 목적을 가지고 있습니다”라고 말하며, AI를 사용해 코드를 작성하는 것이 때때로 도박처럼 느껴질 정도로 결과가 일관되지 않다고 덧붙였다. 그럼에도 불구하고, 가장 큰 기술 회사들은 AI가 미래의 코딩에 중요한 역할을 할 것이라고 믿고 있다. 구글의 모회사 Alphabet CEO Sundar Pichai는 최근 회사의 실적 발표에서 AI가 새로운 코드의 30% 이상을 작성하고 있으며, 이는 지난해 25%에서 증가한 수치라고 밝혔다. 산업 내부자들은 AI의 현재 상황을 긍정적으로 평가하면서도, 감독과 관리의 중요성을 강조하고 있다. AI가 빠르게 발전하고 있지만, 아직 완벽하지 않다는 점을 잊어서는 안 된다. Karpathy와 같은 전문가들의 의견은 AI가 더욱 안전하고 효과적으로 활용되도록 하기 위한 중요한 가이드라인이 될 것으로 보인다. OpenAI는 이러한 문제에 대한 인식을 바탕으로 AI 기술의 지속적인 개선과 발전을 추구하고 있다.