TikTok a annoncé aujourd’hui un changement majeur dans sa stratégie de modération de contenu en licenciant des centaines de modérateurs au Royaume-Uni et en Asie, dans le cadre d’un effort visant à intégrer davantage l’intelligence artificielle dans ses processus. Cette décision, qui s’inscrit dans une restructuration globale du service « Confiance et sécurité » lancée l’année dernière, a suscité une vive critique de la part des syndicats et des défenseurs de la sécurité en ligne. Bien que la société n’ait pas précisé le nombre exact de postes supprimés parmi ses 2 500 employés au Royaume-Uni, selon le Wall Street Journal, les syndicats affirment que cette transition vers une modération automatisée met en danger la sécurité des utilisateurs, notamment des jeunes. John Chadfield, responsable national des technologies au Syndicat des communications (CWU), a dénoncé cette décision comme une priorité donnée aux profits plutôt qu’à la sécurité des travailleurs et du public. « Les travailleurs de TikTok ont depuis longtemps alerté sur les conséquences concrètes de réduire les équipes humaines de modération au profit d’IA encore immature et mal préparée », a-t-il déclaré au Wall Street Journal. Le syndicat craint que les systèmes d’IA, encore en développement, ne soient pas capables de détecter efficacement les contenus nuisibles, notamment ceux qui touchent aux violences, aux harcèlements ou aux contenus extrêmes. Face à ces inquiétudes, TikTok a affirmé que ses outils d’intelligence artificielle sont déjà en mesure de supprimer automatiquement environ 85 % du contenu non conforme, selon un communiqué. La société précise qu’elle utilise des systèmes d’IA « complets » pour renforcer la sécurité des utilisateurs et des modérateurs humains. Elle souligne que cette transition fait partie d’une stratégie plus large visant à centraliser ses opérations dans moins de lieux mondiaux, afin d’améliorer l’efficacité et la rapidité de la modération. Cependant, cette évolution intervient au moment où TikTok est déjà sous surveillance réglementaire au Royaume-Uni. En mars, l’Office britannique de protection des données (ICO) a lancé une enquête sur la manière dont l’application collecte et traite les données personnelles des utilisateurs âgés de 13 à 17 ans. De plus, la nouvelle loi britannique sur la sécurité en ligne, entrée en vigueur en juillet, prévoit des amendes pouvant atteindre 10 % du chiffre d’affaires mondial en cas de non-respect des normes de sécurité. TikTok affirme que cette pression réglementaire justifie l’accélération de son recours à l’IA. Malgré ces affirmations, la société n’a fourni aucune preuve concrète pour étayer son assertion selon laquelle 85 % du contenu illicite est automatiquement retiré. Cette absence de transparence renforce les doutes sur la fiabilité et l’efficacité des systèmes d’IA en place. Alors que les enjeux de sécurité en ligne gagnent en importance, la transition de TikTok vers une modération automatisée soulève des questions fondamentales sur l’équilibre entre innovation technologique, responsabilité sociale et protection des utilisateurs vulnérables.