구글, 13세 이하 어린이용 AI 챗봇 출시... 개인정보 보호 논란
구글이 최근 13세 미만 어린이들을 대상으로 하는 새로운 제미니 AI 채팅봇을 출시한다고 발표했습니다. 이 신제품은 앞으로 1주 내에 미국과 캐나다에서 서비스를 시작하며, 올해 말에는 호주에서도 제공될 예정입니다. 특히 이 채팅봇은 구글의 패밀리 링크 계정을 통해만 사용할 수 있어 부모가 자녀들의 사용을 관리할 수 있게 됩니다. 부모는 자녀 계정을 설정할 때 이름과 생년월일을 입력해야 하는데, 이는 개인 정보와 데이터 보안에 대한 우려를 일으킬 수 있습니다. 하지만 구글은 이 시스템을 사용할 때 수집되는 어린이 데이터가 AI 시스템 훈련용으로 사용되지 않을 것이라고 밝혔습니다. 채팅봇은 기본적으로 활성화 상태로, 부모가 직접 이 기능을 비활성화해야 합니다. 제미니 AI 채팅봇은 텍스트 질문이나 이미지 생성을 통해 어린이들이 로봇과 상호작용하도록 장려합니다. 구글은 이 시스템이 오류를 발생할 수 있으며, 생성된 콘텐츠의 품질과 신뢰성을 면밀히 검토해야 한다고 인정했습니다. 전통적인 검색 엔진과 달리, AI 도구는 패턴을 인식하여 새로운 콘텐츠를 생성하므로, 이를 이해하는 데 어려움을 겪을 수 있는 어린 이용자가 혼란스러워할 가능성이 있습니다. 구글은 부적절한 콘텐츠 생성을 방지하기 위해 여러 안전 메커니즘을 설계했지만, 이러한 조치는 때때로 오인 차단을 초래할 수 있습니다. 예를 들어, 일부 민감한 단어를 제한하는 것은 동시에 어린이들이 적절한 교육 콘텐츠에 접근하는 능력을 저해할 수 있습니다. 호주 전자안전위원회는 AI 채팅봇이 유해한 정보를 전파하거나 현실을 왜곡하고 위험한 조언을 제공할 수 있다고 경고했습니다. 이는 아직 비판적 사고력을 충분히 발달시키지 못한 어린이들에게 특히 중요한 문제입니다. 호주는 올해 12월에 16세 미만 청소년의 소셜 미디어 사용을 금지할 계획이며, 부모들은 자녀들의 안전을 보장하면서 올바른 디지털 도구 사용 방법을 교육해야 합니다. 이러한 상황에서 기술 회사들이 책임을 다하도록 하기 위한 디지털 책임법 제정이 중요해졌습니다. 이 법안은 유해 콘텐츠를 효과적으로 처리하고 어린이들의 안전을 보호할 수 있도록 설계되어야 합니다. 업계 전문가들은 제미니 AI 채팅봇의 출시가 어린이들의 디지털 이용 환경에 큰 변화를 가져올 것이라고 평가합니다. 그러나 부모의 면밀한 감독과 교육이 필요하다는 점을 강조하고 있습니다. 구글은 세계 최대 검색 엔진 및 다양한 디지털 서비스를 제공하는 기술 회사로, 이번 출시는 AI 기술의 새로운 전환점이 될 것으로 기대됩니다. 그럼에도 불구하고, 유해 콘텐츠 차단과 개인 정보 보호 등 안전한 사용 환경 조성을 위한 지속적인 노력이 요구되고 있습니다.