챗GPT 대화 유출 사례 폭발… 인간의 음지에까지 스며든 AI의 윤리적 경계

챗GPT의 일부 대화 내용이 유출되며 사용자들이 AI에 도덕적으로 문제가 있는 작업을 맡기는 사례가 드러났다. 이는 챗봇이 신뢰할 수 있는 조언자나 비밀스러운 대화 상대가 아니라는 점을 다시 한번 일깨운다. 일부 사용자는 법률적 전략을 세우거나 정부 붕괴 시 대비 계획을 수립하는 등 매우 민감한 주제를 AI에 맡기기도 했다. 특히 한 이탈리아 사용자는 다국적 에너지 기업의 변호사로 자처하며, 아마존 원주민 공동체를 강제 이주시켜 댐과 수력발전소를 건설할 계획을 세우고, 그들에게 가장 낮은 가격을 제시하는 방법을 요청하는 등 명백한 악행을 묻는 대화도 있었다. 또 다른 사례로는 가정 폭력 피해자가 탈출 계획을 세우는 과정을 AI와 공유한 대화, 그리고 이집트 정부에 대한 비판 글을 작성해달라고 요청한 아랍어 사용자도 있었다. 이처럼 민감한 정보를 포함한 대화가 공개된 이유는 OpenAI의 ‘공유’ 기능이 대화를 공개 페이지로 만들었고, 이 페이지들이 검색 엔진에 인덱싱되며 누구나 접근할 수 있게 됐기 때문이다. 이 기능은 이후 OpenAI가 즉시 제거했고, 인덱싱된 결과를 검색에서 삭제하는 작업을 진행했지만, 아카이브.org 같은 사이트에 저장된 콘텐츠는 여전히 존재한다. 이는 AI가 단순한 도구가 아니라, 사용자가 내면의 고민이나 위험한 계획을 털어놓는 공간이 될 수 있음을 보여주며, 개인정보 보호와 윤리적 사용의 중요성을 다시 한번 부각시킨다.