YouTube Remplace Les Évaluateurs Humains Par L'ia, Puis Décide De Les Réembaucher

Les plateformes sociales telles que YouTube, Facebook et Twitter ont déployé de grands efforts pour procéder à l’examen du contenu, en utilisant notamment la technologie d’apprentissage automatique pour remplacer progressivement le travail manuel. Cependant, YouTube a récemment décidé de suspendre temporairement cette avancée et de réembaucher les réviseurs manuels qui avaient été licenciés au début de l'année.

Au début de cette année, YouTube a licencié un grand nombre de ses équipes de révision manuelle du contenu et les a toutes remplacées par l'IA pour effectuer la révision du contenu.

Ainsi, durant tout le deuxième trimestre, d’avril à juin de cette année, toutes les vidéos sur YouTube ont été officiellement examinées par l’IA. C'est également la première fois dans l'histoire de YouTube qu'aucun examinateur humain n'est impliqué dans l'examen initial du contenu pendant un trimestre entier.

Ce grand pas en avant a eu des conséquences importantes. YouTube a récemment mis fin à cette initiative et réembauché un grand nombre d'équipes de révision manuelle qui avaient été licenciées au début de l'année. 

L'IA remplace le travail humain : nombre record de vidéos supprimées

L’une des raisons importantes pour lesquelles l’examen de l’IA a été arrêté est que les règles de l’examen de l’IA sont plus strictes que celles de l’examen manuel et peuvent même conduire à des blessures accidentelles.

Selon les rapports de transparence réguliers de Google :En 2020, lorsque l'IA a pris en charge l'examen du contenu d'avril à juin, un total de 11 millions de vidéos ont été marquées comme illégales par l'IA et supprimées de la plateforme., ces vidéos proviennent principalement des États-Unis, d'Inde et du Brésil.

mais,Au cours du premier trimestre de cette année, seulement 6,6 millions de vidéos ont été identifiées comme enfreignant la réglementation et retirées des rayons.Après le passage du manuel à l’IA, le nombre de vidéos supprimées a presque doublé.

Parmi les 11 millions de vidéos supprimées par l'IA, la plupart étaient pornographiques, fausses ou impliquées dans des crimes terroristes, mais il y a également eu de nombreux cas de blessures accidentelles.

dans,Des recours ont été déposés contre 320 000 vidéos marquées et supprimées par l'IA, et près de la moitié d'entre elles ont passé le deuxième examen et ont été remises en ligne.Dans le passé, seulement environ 25% des vidéos contestées ont pu être remises en ligne.

L'IA d'évaluation de YouTube, à elle seule, a fait trembler de peur les diffuseurs YouTube, les obligeant à passer plus de temps à vérifier eux-mêmes leur contenu. Pendant un temps, les plaintes ont été accablantes et ont donné du fil à retordre à YouTube. Le grand nombre d’appels a également augmenté la charge de travail de l’équipe YouTube chargée du réexamen.

L'intelligence artificielle reprend le dessus : le moment n'est pas encore venu, l'IA doit encore travailler dur

Avant que YouTube ne réduise son équipe de révision manuelle au début de l'année, il y avait jusqu'à 10 000 postes de révision à temps plein ou externalisés.

Ces réviseurs humains sont situés dans les bureaux mondiaux de Google ou dans les bureaux de fournisseurs externalisés.

  Équipe de 10 000 personnes : des coûts de fonctionnement énormes 

Les exigences du poste de réviseur manuel ne sont pas faibles. Par exemple, si vous êtes responsable de la révision de contenu au Moyen-Orient, vous devez maîtriser l'arabe et le dialecte arabe et examiner les vidéos téléchargées depuis le Moyen-Orient afin de marquer rapidement les vidéos contenant du contenu terroriste, violent et incitatif.

Ce type de travail nécessite de visionner plus de 500 heures de vidéo par semaine. Le salaire pour les postes d'entrée de gamme peut atteindre 18,5 $ de l'heure et le salaire annuel peut atteindre environ 37 000 $.

Pour être un réviseur de contenu senior, vous devez avoir des connaissances juridiques. Non seulement vous pouvez bénéficier du traitement d’un employé à temps plein de Google, mais vous pouvez également obtenir un salaire annuel de près de 100 000 $.

Derrière la gloire, Google supporte également des coûts considérables, qui ont également conduit à la suppression des postes d'évaluation manuelle sur YouTube pendant l'épidémie de cette année.

YouTube a également mentionné cette réembauche :L’épidémie a augmenté le coût et la difficulté de l’examen manuel. À l’époque, nous n’avions pas d’autre choix que de choisir l’IA plutôt qu’une intervention humaine insuffisante ou une intervention excessive de l’IA.

  Révision du manuel : la profession marginale est épuisante physiquement et mentalement 

La révision du contenu n’est pas une tâche facile. Non seulement vous avez des objectifs de travail fixes chaque semaine, mais vous devez également faire face à des images de pornographie infantile, de violence et d’horreur pendant une longue période, ce qui peut souvent épuiser les gens physiquement et mentalement.

Les principaux médias américains tels que le Washington Post et le magazine Fortune ont réalisé des reportages approfondis sur la profession de réviseurs de contenu.Sans exception, tous les réviseurs de contenu interrogés ont déclaré que cette profession avait un fort impact négatif sur leur santé physique et mentale.

L’influence des opinions des médias a également poussé les entreprises technologiques à apporter une série d’améliorations à ces positions, comme la limitation du temps hebdomadaire de visionnage de vidéos inappropriées et la fourniture d’un traitement psychologique régulier.

Artificiel ou IA : ne vous précipitez pas pour tirer une conclusion

Le coût de la révision manuelle, les dommages causés à la psychologie des personnes et les progrès technologiques dans l’apprentissage automatique ont tous stimulé la recherche et l’application rapide de la révision automatisée du contenu sur diverses plateformes ces dernières années.

Bien que l’IA présente un certain risque d’erreurs accidentelles, elle a en effet démontré une plus grande efficacité que l’examen manuel dans l’examen des contenus illégaux.

Neal Mohan, directeur des produits de YouTube, a mentionné un ensemble de données en répondant au Financial Times à propos du retour de la révision manuelle. « Parmi les 11 millions de vidéos marquées pour suppression par l'IA, les vidéos contenant plus de 50% ont été supprimées avant qu'un utilisateur ne les lise ; les vidéos contenant plus de 80% ont été supprimées dans les 10 lectures. »

En tant que pionnier dans le remplacement du travail humain par l'IA à grande échelle, YouTube est voué à commettre des erreurs, mais en même temps, il a également indiqué une direction de développement plus claire pour la relation collaborative entre les humains et l'IA pour d'autres entreprises et même pour l'ensemble de la société.

Bien que de telles expériences soient gênantes, elles sont nécessaires. Cela exige que l’entreprise ait l’esprit d’initiative, le courage de supporter les critiques publiques et la détermination de gérer rapidement les conséquences. De même, des données ouvertes et transparentes permettent également aux médias et à la société d’avoir davantage de consensus et de confiance pour accepter les incertitudes de l’avenir.

Références :

Fortune:« Pourquoi des milliers de modérateurs humains refusent de corriger les contenus toxiques sur les réseaux sociaux »

Le Verge :« YouTube fait revenir plus de modérateurs humains après la censure excessive des systèmes d'IA », « THE TERROR QUEUE »

Le Washington Post :« Les modérateurs de contenu sur YouTube, Facebook et Twitter voient le pire du Web et souffrent en silence. »

Câblé :« Alors que les gens rentrent chez eux, Facebook et YouTube sont confrontés à une crise du coronavirus »

-- sur--