사용자 대화 내용에 포함된 개인정보, Meta AI 훈련 계약자들이 실시간으로 확인 중

메타의 AI 챗봇 사용자 대화를 검토하는 계약직 노동자들이 사용자의 개인정보를 종종 접하는 것으로 나타났다. 비즈니스 인사이더는 스케일 AI와 얼라인어가 운영하는 플랫폼을 통해 고용된 4명의 계약직 직원을 인터뷰해, 메타 AI와의 대화에서 이름, 전화번호, 이메일, 성별, 취미, 위치, 심지어 사진까지 포함된 개인 정보가 공개된 사례를 확인했다. 일부 직원은 주 5,000건 이상의 대화를 처리하며, 그중 60~70%에서 개인정보를 발견했다고 밝혔다. 특히 '오미니' 프로젝트에서는 사용자 정보를 기반으로 AI의 응답을 개인화하려는 목적으로 개인정보가 포함된 채팅이 제공되며, 이는 계약직이 거부할 수 없도록 설계되어 있다. 메타는 계약직이 개인정보를 제한적으로 접근하며, 위반 시 제출하도록 안내하고 있다고 설명했으나, 일부 채팅은 명백한 신원 정보를 포함해 실제 사용자 프로필과 일치하는 경우도 있었다. 전문가들은 챗봇이 치료나 친구처럼 느껴지기 때문에 사용자들이 비밀스럽다고 생각하지만, 실제로는 인간이 검토할 수 있고 데이터가 활용되고 있음을 경고한다. 메타는 최근 공개된 대화가 검색엔진에 노출되는 문제를 해결하기 위해 경고 문구를 추가했으나, 여전히 공유 기능은 유지되고 있다. 전문가들은 데이터 최소화와 익명화, 사용자 통제가 산업 전반에서 불균형하게 적용되고 있다고 지적하며, 인간 검토가 여전히 보완되지 않은 취약점을 드러냈다고 분석했다.