Une équipe de chercheurs de l'Université Concordia, dirigée par Arezo Bodaghi, a mis au point un nouveau système d'intelligence artificielle capable de détecter les contenus en ligne toxiques avec une rapidité et une précision supérieures aux outils actuels. Cette méthode, baptisée PPO-CIS, répond au défi croissant de la modération automatique, une tâche traditionnellement longue et lourde en calculs face au volume massif de publications quotidiennes. Publiée dans la revue Knowledge-Based Systems, l'étude propose une architecture évolutive adaptée aux contraintes modernes des plateformes numériques. Le modèle repose sur une chaîne de traitement en plusieurs étapes. Une première phase de filtrage rapide analyse en continu les flux entrants et rejette la majorité des publications non dangereuses. Les contenus suspectés d'être nuisibles sont ensuite orientés vers un classificateur secondaire, plus lent mais plus précis. Si le doute persiste, le cas est transmis à un modérateur humain pour validation finale. Pour optimiser ce processus, le système intègre un mécanisme de récompenses et de pénalités basé sur l'apprentissage par renforcement. Cette approche permet à l'agent numérique d'ajuster en temps réel l'équilibre entre rapidité de traitement et fiabilité des résultats, tout en s'adaptant dynamiquement aux spécificités de chaque plateforme. Les tests réalisés sur les ensembles de données AugmenToxic et ToxiGen démontrent les performances exceptionnelles du cadre. PPO-CIS améliore le taux de détection de 2,1 % par rapport aux méthodes existantes et multiplie considérablement le débit de traitement. Alors que les modèles traditionnels analysent environ 43 échantillons par seconde, le nouveau système en traite 384, surpassant également CETRA, un système antérieur basé sur l'intelligence artificielle initialement conçu pour la détection de logiciels malveillants. Cette efficacité computationnelle et cette fiabilité accrue offrent un atout stratégique aux réseaux sociaux et aux éditeurs de services en ligne. Elles sont particulièrement valorisantes pour les plateformes opérant dans des juridictions soumises à des cadres réglementaires stricts imposant des délais rapides de retrait des contenus illicites. La recherche, menée en collaboration avec l'Université McGill, ouvre ainsi la voie à des outils de modération plus robustes, moins coûteux et mieux alignés sur les exigences légales et opérationnelles du paysage numérique actuel.