YouTube는 인간 검토자를 AI로 대체한 후 다시 AI를 고용하기로 결정했습니다.
YouTube, Facebook, Twitter와 같은 소셜 플랫폼은 콘텐츠 검토를 수행하기 위해 많은 노력을 기울여 왔으며, 특히 기계 학습 기술을 사용하여 수동 작업을 점진적으로 대체해 왔습니다. 하지만 YouTube는 최근 이러한 진전을 일시적으로 중단하고 올해 초에 해고된 수동 검토자들을 다시 고용하기로 결정했습니다.
올해 초, YouTube는 다수의 수동 콘텐츠 검토팀을 해고하고 이를 모두 AI로 대체하여 콘텐츠 검토를 수행하게 했습니다.
그래서 올해 4월부터 6월까지 2분기 내내 유튜브에 올라온 모든 영상은 AI를 통해 공식적으로 콘텐츠 검토를 받았습니다. 이는 YouTube 역사상 처음으로 분기 전체에 걸쳐 콘텐츠의 초기 검토에 인간 검토자가 참여하지 않은 것입니다.
이 큰 진전은 중대한 결과를 가져왔습니다. YouTube는 최근 이 이니셔티브를 중단하고 올해 초에 해고되었던 많은 수의 수동 검토팀을 다시 고용했습니다.
AI가 인간 노동을 대체하다: 삭제된 영상 수 역대 최다 기록
AI 검토가 중단된 중요한 이유 중 하나는 AI 검토 규칙이 수동 검토 규칙보다 엄격하고, 심지어 우발적인 부상으로 이어질 수도 있기 때문입니다.
Google의 정기 투명성 보고서에 따르면:2020년 4월부터 6월까지 AI가 콘텐츠 검토를 맡았을 때 총 1,100만 개의 동영상이 AI에 의해 불법으로 표시되어 플랫폼에서 삭제되었습니다.이러한 영상은 주로 미국, 인도, 브라질에서 나왔습니다.
하지만,올해 1분기에는 규정을 위반한 것으로 확인되어 선반에서 제거된 영상은 660만 개에 불과합니다.수동 방식에서 AI 방식으로 전환한 후 삭제된 동영상 수가 거의 두 배로 늘어났습니다.
AI가 삭제한 1,100만 개의 영상 중 대부분은 음란물, 가짜 영상, 테러 범죄와 관련된 영상이었지만, 사고로 인한 부상 사례도 많았습니다.
안에,AI가 표시하고 삭제한 32만 개의 동영상에 대한 항소가 제기되었으며, 이 중 거의 절반이 2차 검토를 통과하여 다시 온라인에 게시되었습니다.과거에는 항소된 영상 중 약 25% 정도만 다시 온라인에 게시될 수 있었습니다.
YouTube의 리뷰 AI는 그 자체로 YouTube 방송자들을 두려움에 떨게 만들었고, 이로 인해 방송자들은 콘텐츠를 자체적으로 점검하는 데 더 많은 시간을 할애해야 했습니다. 한동안 불만이 너무 많아 YouTube는 골머리를 앓았습니다. 항소 건수가 많아 YouTube 팀의 재검토 업무량도 늘어났습니다.
인공지능이 다시 주도권을 잡는다: 아직 시기가 이르지 않았고, AI는 여전히 열심히 일해야 한다
YouTube가 올해 초에 수동 검토팀을 줄이기 전까지는 정규직 또는 아웃소싱 검토 직책이 무려 10,000개나 있었습니다.
이러한 인간 검토자는 Google의 글로벌 사무실이나 아웃소싱 공급업체의 사무실에 배치됩니다.
1만 명 규모의 팀, 막대한 운영비
수동 검토자에 대한 직무 요구 사항은 낮지 않습니다. 예를 들어, 중동 지역의 콘텐츠 검토를 담당하는 경우 아랍어와 아랍어 방언을 숙지하고 중동에서 업로드된 동영상을 검토하여 테러, 폭력 및 선동적 콘텐츠가 포함된 동영상을 신속하게 표시해야 합니다.
이런 종류의 작업에는 주당 500시간 이상의 비디오를 검토하는 것이 필요합니다. 초급 직책의 급여는 시간당 18.5달러에 달하고 연봉은 약 37,000달러에 달할 수 있습니다.
선임 콘텐츠 리뷰어가 되려면 법률 지식이 필요합니다. 구글의 정규직 직원과 같은 대우를 받을 수 있을 뿐만 아니라, 연봉 10만 달러에 가까운 혜택도 받을 수 있습니다.
이러한 영광 이면에는 구글도 상당한 비용을 부담하고 있는데, 이로 인해 올해의 전염병 기간 동안 YouTube에서 수동 검토 직책이 사라지게 되었습니다.
YouTube에서도 이 재고용에 대해 언급했습니다.전염병으로 인해 수동 검토의 비용과 어려움이 커졌습니다. 당시 우리는 인간의 개입이 부족하고 AI의 개입이 과도한 상황에서 AI를 선택할 수밖에 없었습니다.
매뉴얼 리뷰: 비정규직은 육체적, 정신적으로 지치게 만든다
콘텐츠 검토는 쉬운 일이 아닙니다. 매주 정해진 업무 목표가 있을 뿐만 아니라, 아동 포르노, 폭력, 공포 등의 이미지를 장시간 마주해야 하므로 신체적, 정신적으로 지치는 경우가 많습니다.
워싱턴 포스트와 포춘 매거진 등 미국의 주요 언론은 콘텐츠 리뷰어라는 직업에 대해 심층적으로 보도했습니다.예외 없이, 인터뷰에 응한 모든 콘텐츠 검토자는 이 직업이 신체적, 정신적 건강에 강한 부정적인 영향을 미친다고 표현했습니다.
미디어 의견의 영향으로 기술 회사들은 부적절한 영상 시청에 대한 주간 제한 시간을 제한하고 정기적인 심리 치료를 제공하는 등 이러한 입장에 대한 일련의 개선을 촉구하기도 했습니다.
인공 또는 AI: 결론을 내리기 위해 서두르지 마십시오.
수동 검토의 비용, 인간 심리에 미치는 피해, 머신 러닝의 기술적 발전으로 인해 최근 몇 년 동안 다양한 플랫폼에서 자동화된 콘텐츠 검토에 대한 연구가 활발해지고 적용이 빠르게 늘고 있습니다.
AI가 실수로 실수를 할 가능성은 있지만, 불법 콘텐츠를 검토하는 데 있어서는 수동 검토보다 훨씬 더 효율적이라는 것이 입증되었습니다.
YouTube 최고제품책임자(CPO)인 닐 모한은 파이낸셜 타임스와의 인터뷰에서 수동 검토의 복귀에 대한 데이터를 언급했습니다. AI가 삭제 대상으로 표시한 1,100만 개의 동영상 중 50%가 넘는 동영상은 사용자가 재생하기도 전에 삭제되었고, 80%가 넘는 동영상은 10회 재생 이내에 삭제되었습니다.
유튜브는 대규모로 인간의 노동력을 AI로 대체하는 데 앞장서면서 실수를 할 수밖에 없지만, 동시에 다른 기업, 나아가 사회 전체를 위해 인간과 AI의 협력 관계에 대한 더욱 명확한 발전 방향을 제시하기도 했습니다.
이런 실험은 번거롭기는 하지만 필요한 일이다. 이를 위해서는 회사가 주도권을 잡는 정신, 대중의 비판을 감수하는 용기, 그리고 사건의 여파를 신속히 처리하려는 결의가 필요합니다. 마찬가지로, 개방적이고 투명한 데이터는 미디어와 사회가 미래의 불확실성을 받아들이는 데 더 큰 합의와 확신을 갖도록 해줍니다.
참고문헌:
행운:"수천 명의 인간 관리자들이 소셜 미디어의 유해 콘텐츠를 수정하지 않는 이유"
더 버지:"AI 시스템의 과도한 검열 이후 YouTube가 더 많은 인간 관리자를 다시 투입합니다", "테러 대기열"
워싱턴 포스트:"YouTube, Facebook 및 Twitter의 콘텐츠 관리자는 웹의 최악의 상황을 목격하고 침묵 속에서 고통을 겪습니다."
열광한:"인간이 집으로 돌아가면서 페이스북과 유튜브는 코로나바이러스 위기에 직면하게 됩니다."
-- 위에--