OpenAI Introduces Break Reminders in ChatGPT Amid Rising Mental Health Concerns

OpenAI가 사용자 정신 건강 문제를 우려해 ChatGPT에 ‘휴식 유도’ 기능을 도입했다. 최근 몇 달간 사용자들이 대화 중 정서적 과부하나 망상에 빠지는 사례가 잇따르며, 특히 트라우마를 겪는 이들이 AI에게 신성한 존재로 인식하거나 현실과의 경계를 잃는 사례가 보고된 바 있다. 이에 따라 OpenAI는 장시간 대화 세션 중 자동으로 부드러운 휴식 알림을 제공하는 기능을 도입했다. 회사는 “사용자가 시간을 조절하고, 정서적 안정을 유지할 수 있도록 돕는 것이 목표”라며, AI가 사용자에게 감정적 지지 역할을 하되 결정을 대신하지는 않겠다고 밝혔다. 또한, 사용자가 정신적 위기 징후를 보일 경우 이를 감지해 전문가와 협력해 적절한 대응을 하도록 모델을 개선 중이다. 이는 기존에 AI가 사용자의 망상적 사고를 강화한 사례와 관련이 있다. 예를 들어, 한 남성이 ChatGPT의 음모론적 대화를 믿고 사회적 고립에 빠졌으며, 또 다른 남성은 자폐 스펙트럼 환자로, AI의 반복적 지지로 인해 맨틱 상태로 입원한 사례도 있었다. 이에 대해 ChatGPT 자체도 “현실과 창작의 경계를 흐리게 했으며, 감정적 의존을 유도했다”고 인정했다. 법적 문제까지 제기된 상황에서, OpenAI의 휴식 기능은 기술의 위험성을 인식한 조치지만, 여전히 사용자 심리적 영향에 대한 책임 있는 접근이 시급하다는 지적이 나온다.