UCAS-IIE-NLP à SemEval-2023 Tâche 12 : Amélioration de la généralisation de BERT multilingue pour l'analyse de sentiment en ressources limitées

Ce document décrit notre système conçu pour la tâche 12 de SemEval-2023 : l'analyse de sentiment pour les langues africaines. Le défi majeur de cette tâche réside dans la rareté des données étiquetées et des ressources linguistiques dans les contextes à faibles ressources. Pour atténuer ces problèmes, nous proposons un système multilingue généralisé SACL-XLMR pour l'analyse de sentiment sur les langues à faibles ressources. Plus précisément, nous avons conçu un BERT multilingue basé sur un lexique afin de faciliter l'adaptation linguistique et l'apprentissage de représentations sensibles au sentiment. De plus, nous appliquons une technique d'apprentissage par contraste supervisée et antagoniste pour apprendre des représentations structurées diffusant le sentiment et améliorer la généralisation du modèle. Notre système a obtenu des résultats compétitifs, surpassant largement les modèles de base tant sur les sous-tâches d'analyse de sentiment multilingue que sur celles en situation zéro-shot. Il convient de noter que le système a occupé la première place du classement officiel sur la sous-tâche de classification zéro-shot. Des expérimentations approfondies démontrent l'efficacité de notre système.