Discord a reconnu qu'un dysfonctionnement dans son système de modération par intelligence artificielle a entraîné la suspension de plus de huit mille comptes depuis mai, avec une seconde vague de deux cents bannissements enregistrée en juillet. Le bug a été déclenché par le téléchargement d'images inoffensives, telles que des tableurs, des échiquiers, des textures de jeux vidéo ou des fonds blancs et gris. Selon l'entreprise, tous les comptes affectés sont actuellement en cours de réactivation. La plateforme explique que son outil de sécurité automatisé compare habituellement les contenus partagés à des bases de données de ressources illégales ou abusives. Bien qu'une validation humaine soit normalement requise, un défaut technique a permis au système de prononcer des bannissements immédiats sans contrôle. Discord a indiqué qu'il renforçait ses mécanismes de sécurité pour prévenir la récurrence du phénomène. La situation a suscité de vives réactions sur les réseaux sociaux. De nombreux utilisateurs ont signalé des suspensions définitives suite au partage d'images comportant des motifs en grille. Plusieurs témoignages avancent que les algorithmes de la plateforme ont accru leur sensibilité à ces structures, probablement en raison de tentatives précédentes visant à dissimuler du contenu abusif aux filtres automatiques. Les personnes impactées dénoncent la gravité des conséquences de ces erreurs, qui peuvent entraver leurs activités professionnelles, leurs communautés de jeu ou leurs liens sociaux. Cet incident s'inscrit dans une problématique plus large concernant le recours massif aux outils de modération automatisée. D'autres géants du secteur, comme Meta ou Tumblr, ont déjà fait face à des suspensions de masse similaires, provoquant des appels à plus de transparence sur le fonctionnement de ces algorithmes. Les développeurs et utilisateurs rappellent que la fiabilité des systèmes automatisés doit être assurée, particulièrement lorsque la modération engage des sanctions irréversibles au quotidien. Discord s'engage désormais à améliorer la précision de ses filtres et à protéger les échanges de sa communauté.