ZJUKLAB à SemEval-2021 Tâche 4 : Augmentation Négative avec Modèle de Langage pour la Compréhension Lectorale du Sens Abstrait

Cet article présente nos systèmes pour les trois sous-tâches de la tâche SemEval 4 : la compréhension de lecture du sens abstrait (ReCAM). Nous expliquons les algorithmes utilisés pour entraîner nos modèles, ainsi que le processus d'ajustement des algorithmes et de sélection du meilleur modèle. Inspirés de la similarité entre la tâche ReCAM et l'entraînement préalable du langage, nous proposons une méthode simple mais efficace, appelée augmentation négative basée sur un modèle de langage. Les résultats d'évaluation démontrent l'efficacité de notre approche. Nos modèles obtiennent la 4e place sur les deux jeux de test officiels des sous-tâches 1 et 2, avec une précision respective de 87,9 % et 92,8 %. Nous menons également une analyse approfondie des modèles et observons des cas d'erreur intéressants, qui pourraient stimuler des recherches futures.