Identification explicite de discours de haine visant l'Islam à l'aide de réseaux neuronaux graphes

Le langage islamophobe sur les plateformes en ligne alimente l’intolérance, rendant la détection et l’élimination de ces contenus cruciales pour promouvoir la cohésion sociale. Les modèles traditionnels de détection de la haine en ligne s’appuient sur des techniques de traitement du langage naturel (NLP), telles que la tokenisation, l’analyse morphosyntaxique (part-of-speech tagging) ou encore les modèles encodeur-décodeur. Toutefois, les réseaux de neurones graphes (Graph Neural Networks, GNNs), grâce à leur capacité à exploiter les relations entre les points de données, offrent une détection plus efficace et une meilleure interprétabilité. Dans ce travail, nous représentons les discours comme des nœuds et les connectons par des arêtes en fonction de leur contexte et de leur similarité, afin de construire un graphe. Cette étude introduit un nouveau paradigme fondé sur les GNNs pour identifier et expliquer la haine envers l’islam. Notre modèle utilise les GNNs pour saisir le contexte et les motifs de la haine en lienant les textes à l’aide d’embeddings de mots générés par des modèles NLP préentraînés, atteignant ainsi des performances de pointe tout en améliorant la précision de détection et en fournissant des explications pertinentes. Ces résultats mettent en évidence le potentiel des GNNs dans la lutte contre la haine en ligne, contribuant ainsi à créer un environnement numérique plus sûr et plus inclusif.