AI Security System Mistakenly Flags Teen’s Doritos Bag as Gun, Leading to Cuffing at Baltimore High School

미국 볼티모어의 한 고등학교에서 AI 기반 금속 탐지 시스템이 학생의 도리토스 봉지에 무기를 감지해 경찰이 급히 출동한 사고가 발생했다. NBC 계열사 WBAL-TV 11에 따르면, 테키 앨런이라는 17세 청소년은 축구 훈련 후 학교 정문 근처에서 친구들과 앉아 있었는데, 자동 보안 시스템이 그의 주머니에 든 찌그러진 도리토스 봉지를 무기로 오인했다. 이에 따라 약 8대의 경찰 차량이 현장에 도착했고, 경찰은 무기를 들고 앨런을 압류해 무릎을 꿇고 손을 뒤로 묶고 체포했다. 앨런은 “내가 죽을 거라 생각했다. 그들이 사진을 보여주며 ‘이건 총처럼 보인다’고 했지만, 나는 ‘이건 도리토스야’라고 말했다”고 전했다. 경찰과 학교 측은 이후 검색 결과 무기 없음을 확인했고, 현장에서 떨어진 도리토스 봉지를 발견했다. 학교 측은 경보가 발령된 후 즉시 확인해 무기 없음을 확인했으며, 추가 지원을 요청했지만, 구체적인 오류 원인은 밝히지 않았다. 이 시스템은 오밀레르(Omnilert)사가 제공하는 AI 기반 총기 탐지 솔루션으로, 볼티모어 카운티 공립학교가 지난해부터 도입했다. 회사 측은 AI 기술로 학교 내 무장 침입을 예방하는 데 목적이 있다고 설명하지만, 이번 사고는 AI의 오인 가능성과 과도한 반응의 위험성을 다시 한번 부각시켰다. 현재 학교와 경찰은 사건에 대한 공식 입장을 내지 않았다.