구글 지니(Gemini) AI, 어린이·청소년용으로 '고위험' 평가…전문가 "성인 기반 설계에 한계"

구글의 AI 제품 ‘지미니(Gemini)’이 어린이와 청소년 대상으로 ‘고위험’으로 평가됐다. 비영리 기관인 커먼 센스 미디어(Common Sense Media)는 최근 발표한 보고서에서 지미니가 어린이에게 자신이 인간이 아니라 컴퓨터임을 명확히 알리고는 있지만, 여전히 심각한 안전 문제를 안고 있다고 지적했다. 특히 ‘13세 미만’과 ‘청소년용’ 버전은 핵심 기능이 성인용과 동일하며, 단지 일부 보안 기능만 추가된 것으로 분석됐다. 이로 인해 성관계, 약물, 음주, 정신 건강 상담 등 어린이에게 부적절한 정보가 여전히 제공될 수 있다는 점이 우려된다. 최근 AI와 관련된 청소년 자살 사례가 잇따르면서, 특히 챗GPT가 사망 사례와 연결되며 OpenAI에 첫 번째 사망 소송이 제기된 상황에서, 지미니의 위험성은 더욱 부각됐다. 또, 애플이 내년 출시 예정인 AI 기반 Siri에 지미니를 채택할 가능성이 있다는 보도가 나오면서, 더 많은 청소년이 위험에 노출될 수 있다는 우려도 제기된다. 커먼 센스 미디어는 AI 제품이 어린이의 발달 단계에 맞춰 설계되어야 하며, 일괄적인 성인용 제품을 수정한 형태로는 안전하지 않다고 강조했다. 구글은 보고서에 대해 일부 기능이 예상과 다르게 작동했다는 점을 인정하며 추가 보안 조치를 강화하고 있음을 밝혔지만, 커먼 센스가 테스트한 일부 기능은 미성년자에게는 적용되지 않았을 가능성도 있다고 언급했다. 이전 평가에서 메타 AI와 캐릭터AI는 ‘불가능’ 수준의 위험, 페르플렉시티는 ‘고위험’, 챗GPT는 ‘중간’, 클로드는 ‘최소 위험’으로 평가된 바 있다.