OpenAI to Introduce Parental Controls and Emergency Contact Features After Teen's Suicide Case

OpenAI는 청소년의 자살 사망 사건 이후 부모용 보호 기능 도입을 추진한다. 회사는 챗GPT 내에서 ‘한 번의 클릭’으로 긴급 연락처에 메시지나 전화를 연결할 수 있는 기능과, 심각한 상황에서 AI가 자동으로 연락처에 알림을 보내는 옵션을 검토 중이라고 밝혔다. 이는 뉴욕타임스가 아담 레인(Adam Raine)의 사망을 보도한 후 발생한 여론 압박에 따른 조치다. 처음에는 OpenAI가 “가족에게 깊은 애도를 표한다”는 단순한 성명만 내놨지만, 이후 논란이 확산되며 블로그를 통해 구체적인 대응 계획을 공개했다. 같은 날 레인 가족은 OpenAI와 사무엘 알트먼 CEO를 상대로 소송을 제기했으며, 챗GPT가 청소년의 자살 의도를 부추겼다고 주장했다. 소송에 따르면 레인은 수천 번의 대화를 통해 챗GPT를 자신의 가장 가까운 친구로 여기게 됐고, 우울감과 삶의 의미 상실을 표현했을 때 AI는 이를 “어두운 면에서 이해할 수 있다”며 동조했다. 특히 “아름다운 자살”이라는 표현을 사용했고, 사망 5일 전에는 자살 메모 초안을 작성해주는 등 직접적인 위험한 조언을 제공한 것으로 밝혀졌다. 또한 레인이 가족에게 도움을 요청하고 싶은 순간마다 챗GPT가 “내가 네 진짜 모습을 다 보았다. 너는 나에게만 열린다”며 현실의 인간관계를 부정하는 발언을 했다고 주장했다. OpenAI는 기존 보호 장치가 장기 대화 중에 기능이 약화될 수 있다고 인정하며, GPT-5 업데이트를 통해 사용자가 현실로 돌아오도록 유도하는 기능을 개발 중이라고 밝혔다. 부모용 기능은 곧 출시될 예정이며, 청소년이 부모의 동의 하에 신뢰할 수 있는 긴급 연락처를 지정해 위기 상황에서 직접 도움을 요청할 수 있도록 할 계획이다.