SKEP : Pré-entraînement amélioré par les connaissances sur les sentiments pour l'analyse de sentiment

Récemment, l'analyse de sentiment a connu des avancées remarquables grâce aux approches d'apprentissage préalable. Cependant, les connaissances de sentiment, telles que les mots de sentiment et les paires aspect-sentiment, sont ignorées lors du processus d'apprentissage préalable, malgré leur utilisation généralisée dans les méthodes traditionnelles d'analyse de sentiment. Dans cet article, nous présentons l'apprentissage préalable amélioré par la connaissance de sentiment (SKEP), afin d'apprendre une représentation unifiée de sentiment pour plusieurs tâches d'analyse de sentiment. Avec l'aide de connaissances extraites automatiquement, SKEP réalise un masquage de sentiment et construit trois objectifs de prédiction basés sur la connaissance de sentiment, permettant ainsi d'intégrer des informations de sentiment au niveau des mots, des polarités et des aspects dans la représentation pré-entraînée. En particulier, la prédiction des paires aspect-sentiment est convertie en classification multi-étiquettes, visant à capturer la dépendance entre les mots d'une paire. Les expériences menées sur trois types de tâches d'analyse de sentiment montrent que SKEP surpasse significativement les modèles baselines pré-entraînés performants et atteint des résultats nouveaux état de l'art sur la plupart des ensembles de données tests. Nous mettons notre code à disposition sur https://github.com/baidu/Senta.