Entraînement adversaire pour l'analyse de sentiment basée sur les aspects avec BERT

L’Analyse de Sentiment Axée sur les Aspects (Aspect-Based Sentiment Analysis, ABSA) consiste à extraire les sentiments ainsi que leurs cibles. La collecte de données étiquetées pour cette tâche, afin d’aider les réseaux neuronaux à généraliser plus efficacement, peut s’avérer fastidieuse et chronophage. À titre alternatif, des données similaires aux exemples du monde réel peuvent être générées artificiellement via un processus adversarial mené dans l’espace d’embedding. Bien que ces exemples ne soient pas des phrases réelles, ils ont démontré leur efficacité comme méthode de régularisation, contribuant à rendre les réseaux neuronaux plus robustes. Dans ce travail, nous appliquons l’entraînement adversarial, introduit par Goodfellow et al. (2014), au modèle linguistique BERT post-entraîné (BERT-PT), proposé par Xu et al. (2019), sur les deux tâches majeures de l’ABSA : l’extraction d’aspects et la classification du sentiment des aspects. Après avoir amélioré les performances du BERT post-entraîné grâce à une étude d’ablation, nous proposons une nouvelle architecture appelée BERT Adversarial Training (BAT), permettant d’exploiter pleinement l’entraînement adversarial dans le cadre de l’ABSA. Le modèle proposé surpasse le BERT post-entraîné sur les deux tâches. À notre connaissance, il s’agit de la première étude sur l’application de l’entraînement adversarial dans le domaine de l’ABSA.