Amélioration de la compréhension de lecture par machine grâce à la prise de décision à choix unique et au transfert d’apprentissage

La lecture compréhension automatique à choix multiples (MMRC) vise à sélectionner la bonne réponse parmi un ensemble d’options, à partir d’un passage et d’une question donnés. En raison de la spécificité de cette tâche, il n’est pas trivial de transférer des connaissances provenant d’autres tâches de lecture compréhension automatique, telles que SQuAD ou Dream. Dans cet article, nous simplifions la tâche de choix multiples en la transformant en une tâche de choix unique en entraînant une classification binaire afin de distinguer si une réponse donnée est correcte. Ensuite, nous sélectionnons l’option dont le score de confiance est le plus élevé. Notre modèle repose sur le modèle ALBERT-xxlarge et est évalué sur le jeu de données RACE. Lors de l’entraînement, nous appliquons une stratégie d’AutoML pour optimiser les paramètres. Les résultats expérimentaux montrent que la formulation en choix unique est supérieure à celle en choix multiples. En outre, en transférant des connaissances provenant d’autres types de tâches de lecture compréhension automatique, notre modèle atteint de nouveaux résultats d’état de l’art, tant dans les configurations individuelles qu’en ensemble.