AI 챗봇, 정신건강 치료에 혁신…하지만 윤리적 고려사항 중요

세계各地의 정신건강 서비스는 어느 때보다 더 부족한 상태에 놓여 있습니다. 오랜 대기 시간, 치료 접근성의 장벽, 우울증과 불안증의 증가로 인해 사람들이 적시에 도움을 받는 것이 더욱 어려워지고 있습니다. 이런 상황에서 정부와 의료 제공자들은 이 문제를 해결하기 위한 새로운 방법을 찾고 있으며, 그 중 하나로 AI 챗봇이 주목받고 있습니다. 최근 연구에서는 Therabot라는 새로운 유형의 AI 챗봇이 정신질환을 효과적으로 치료할 수 있는지를 살펴보았습니다. 연구 결과는 긍정적이었습니다. 우울증과 불안증의 임상적으로 중요한 증상을 가진 참가자들은 물론, 식이 장애 위험이 높은 사람들도 개선되는 모습을 보였습니다. 초기 단계지만, 이 연구는 AI가 정신건강 치료에 본격적으로 활용되는 중요한 순간을 대변할 수 있습니다. AI 정신건강 챗봇은 새로운 것은 아닙니다. Woebot와 Wysa 같은 플랫폼들이 이미 공개되어 있으며 몇 년 동안 연구되고 있습니다. 이러한 플랫폼들은 사용자의 입력에 따라 사전에 승인된 응답을 생성하는 규칙을 따릅니다. Therabot가 다른 점은 생성형 AI를 사용한다는 것입니다. 이 기술은 기존 데이터에서 학습하여 사용자의 입력에 맞춰 새로운 콘텐츠를 생성하며, ChatGPT와 같은 다른 인기 있는 챗봇처럼 독특한 응답을 제공할 수 있어 사용자와의 상호 작용이 더욱 역동적이고 개인화될 수 있습니다. 2024년 포르투갈의 연구자들은 ChatGPT가 정신과 입원 환자들의 치료에 추가 요소로 활용되었을 때, 3~6회의 세션만으로 표준 치료, 약물, 그리고 다른 지원 치료법보다 삶의 질이 크게 향상되었다는 결과를 발표했습니다. 이들 연구는 일반적인 생성형 AI 챗봇뿐만 아니라 전문적인 생성형 AI 챗봇이 정신건강 치료에 실제로 활용될 가능성을 시사합니다. 하지만 몇 가지 중요한 한계점을 고려해야 합니다. 예를 들어, ChatGPT 연구는 단지 12명의 참가자만 포함되어 있어 확실한 결론을 내리기에 충분하지 않습니다. Therabot 연구에서는 메타 광고 캠페인을 통해 참가자를 모집해 기술에 친숙한 사람들이 많은 표본을 구성했을 가능성이 있습니다. 이로 인해 챗봇의 효과와 참여율이 과대평가될 수도 있습니다. 이러한 방법론적 문제 외에도 안전성과 윤리적 이슈를 해결해야 합니다. 특히 생성형 AI가 심각한 정신질환, 특히 정신분열증을 가진 사람들의 증상을 악화시킬 수 있다는 점이 가장 큰 문제입니다. 2023년 글에서는 생성형 AI의 실생활과 같은 응답이 대부분의 사람이 이 시스템이 어떻게 작동하는지 제한된 이해를 가지고 있어 환청을 유발할 수 있다고 경고했습니다. 이 때문인지 Therabot와 ChatGPT 연구에서는 정신분열증 증상을 가진 참가자를 배제했습니다. 그러나 이러한 배제는 공정성 문제를 제기합니다. 심각한 정신질환을 가진 사람들에게는 인지적 어려움, 예를 들어 사고의 혼란이나 집중력 부족 등의 문제가 있어 디지털 도구를 사용하는 것이 어렵습니다. 아이러니하게도, 이들은 접근성이 높고 혁신적인 개입 방식에서 가장 큰 혜택을 볼 수 있는 사람들일 수 있습니다. 생성형 AI 도구가 의사소통 능력이 뛰어난 사람과 디지털 문해력이 높은 사람만 적합하다면, 임상 집단에서의 활용성이 제한될 수 있습니다. 또한 AI "환청"이라는 알려진 결함도 있습니다. 챗봇이 자신 있게 잘못된 정보를 만들어내는 경우, 예를 들어 출처를 허위로 발명하거나 존재하지 않는 연구를 인용하거나 잘못된 설명을 제공하는 등이 발생할 수 있습니다. 정신건강 분야에서 AI 환청은 단순히 불편한 문제가 아니라 위험할 수 있습니다. 챗봇이 자해 계획을 검증하거나, 무의식적으로 해롭한 행동을 강화하는 조언을 제공할 수 있는 상상을 해보십시오. Therabot과 ChatGPT 연구는 임상 감독과 전문적인 개발 과정을 포함하여 이러한 위험을 최소화하려고 노력했지만, 많은 상업적 AI 정신건강 도구들은 같은 수준의 보호를 제공하지 않습니다. 따라서 이러한 초기 연구 결과는 흥미롭지만 신중한 접근이 필요합니다. AI 챗봇은 많은 사람들에게 저렴한 방식으로 동시에 지원을 제공할 수 있지만, 그 한계점을 충분히 해결해야 합니다. 효율적인 구현을 위해서는 더 크고 다양한 집단을 대상으로 한 더 강력한 연구, 모델 교육 방법에 대한 투명성, 그리고 지속적인 인간의 감독이 필요합니다. 규제 당국도 임상 환경에서 AI의 윤리적 사용을 안내하기 위해 개입해야 합니다. 생성형 AI가 신중하고 환자 중심의 연구, 그리고 강력한 보호 장치를 갖춘다면, 전 세계적인 정신건강 위기를 해결하는 데 중요한 동맹이 될 수 있을 것입니다. 그러나 책임감 있게 전진해야만 이 가능성이 실현될 수 있습니다. 이 연구 결과들은 AI 챗봇이 정신건강 치료에서 큰 잠재력을 보유하고 있음을 입증하지만, 안전성과 윤리적 고려사항을 철저히 검토하지 않으면 이러한 기술의 부작용이 문제를 초래할 수 있습니다. 따라서 업계 전문가들은 AI 챗봇의 잠재력을 인정하면서도, 충분한 연구와 규제가 이루어져야 할 필요성을 강조하고 있습니다. 정신건강 분야에서 AI의 활용은 여전히 초기 단계이지만, 앞으로의 발전 가능성이 기대됩니다.