Formation post-entraînement de BERT pour la compréhension des avis et l'analyse de sentiment basée sur les aspects

La réponse aux questions joue un rôle important dans le commerce électronique car elle permet aux clients potentiels de rechercher activement des informations cruciales sur les produits ou services afin de faciliter leur prise de décision d'achat. Inspirés par les récents succès de la compréhension de lecture automatique (MRC, Machine Reading Comprehension) sur des documents formels, cet article explore le potentiel de transformer les avis clients en une vaste source de connaissances qui peut être exploitée pour répondre aux questions des utilisateurs. Nous appelons ce problème la Compréhension de Lecture des Avis (RRC, Review Reading Comprehension). À notre connaissance, aucune étude n'a encore été réalisée sur la RRC. Dans cette recherche, nous construisons d'abord un jeu de données RRC appelé ReviewRC basé sur un benchmark populaire pour l'analyse de sentiments basée sur les aspects. Étant donné que ReviewRC dispose d'un nombre limité d'exemples d'entraînement pour la RRC (et également pour l'analyse de sentiments basée sur les aspects), nous explorons ensuite une nouvelle approche d'entraînement postérieur sur le modèle linguistique BERT populaire afin d'améliorer les performances du réglage fin (fine-tuning) de BERT pour la RRC. Pour démontrer la généralité de cette approche, l'entraînement postérieur proposé est également appliqué à d'autres tâches basées sur les avis, telles que l'extraction d'aspects et la classification du sentiment des aspects dans l'analyse de sentiments basée sur les aspects. Les résultats expérimentaux montrent que l'entraînement postérieur proposé est très efficace. Les jeux de données et le code sont disponibles à l'adresse suivante : https://www.cs.uic.edu/~hxu/.