Réseaux de Réponses Stochastiques pour la Compréhension de la Lecture par Machine

Nous proposons un réseau de réponses stochastique (Stochastic Answer Network, SAN) simple mais robuste qui simule le raisonnement en plusieurs étapes dans la compréhension de lecture par machine. Contrairement aux travaux antérieurs tels que ReasoNet, qui utilisaient l'apprentissage par renforcement pour déterminer le nombre d'étapes, la particularité de notre approche réside dans l'utilisation d'une forme de décrochage stochastique des prédictions sur le module de réponse (couche finale) du réseau neuronal pendant l'entraînement. Nous montrons que cette astuce simple améliore la robustesse et permet d'obtenir des résultats comparables à l'état de l'art sur les jeux de données Stanford Question Answering Dataset (SQuAD), Adversarial SQuAD et Microsoft MAchine Reading COmprehension Dataset (MS MARCO).