악성 또는 무해성? 아동 영상에 대한 효과적인 콘텐츠 모니터링을 위한 연구

온라인 동영상 플랫폼은 매 분마다 수백 시간에 달하는 동영상 업로드를 받고 있어 수동적인 콘텐츠 모니터링은 불가능에 가깝다. 불행히도 악성 동영상 콘텐츠의 가장 취약한 소비자들은 1~5세 어린이들로, 밝은 색상과 소리의 급격한 변화에 쉽게 주의를 끌린다. 수익화를 목적으로 하는 사기 행위자들은 교육용 동영상과 외형상 유사하게 보이지만, 공포스러운 인물, 역겨운 캐릭터, 폭력적인 동작, 시끄러운 음악, 공포스러운 소음 등을 포함하는 악성 어린이용 동영상을 제작할 수 있다. 유튜브와 같은 주요 동영상 호스팅 플랫폼은 플랫폼 내 악성 콘텐츠를 완화하기 위한 조치를 취하고 있지만, 현재의 콘텐츠 모니터링 도구는 주로 성인용 또는 저작권 침해 콘텐츠를 제거하는 데 집중되어 있어, 이러한 악성 콘텐츠는 종종 탐지되지 못한다. 본 논문에서는 어린이용 동영상의 자동 콘텐츠 모니터링 연구를 촉진하기 위해 '악성 또는 선량한(Malicious or Benign)'이라는 툴킷을 소개한다. 본 연구는 1) 동영상용 사용자 정의(annotation) 도구, 2) 탐지가 어려운 악성 콘텐츠의 테스트 케이스를 포함한 새로운 데이터셋, 그리고 3) 최신 기술 수준의 동영상 분류 모델을 평가할 수 있는 벤치마크 세트를 제시한다.