Les modèles neuronaux pour le système de réponse aux questions (QA) sur des documents ont connu d'importantes améliorations en termes de performance. Bien qu'efficaces, ces modèles ne sont pas adaptables à de grands corpus en raison de leur modélisation complexe des interactions entre le document et la question. De plus, des travaux récents ont montré que ces modèles sont sensibles aux entrées adverses. Dans cet article, nous étudions le contexte minimal nécessaire pour répondre à une question et constatons que la plupart des questions dans les jeux de données existants peuvent être résolues avec un petit ensemble de phrases. Inspirés par cette observation, nous proposons un sélecteur de phrases simple permettant de sélectionner l'ensemble minimal de phrases à fournir au modèle QA. Notre système global réalise des réductions significatives du temps d'entraînement (jusqu'à 15 fois) et du temps d'inférence (jusqu'à 13 fois), tout en offrant une précision comparable ou supérieure à l'état de l'art sur SQuAD, NewsQA, TriviaQA et SQuAD-Open. Nos résultats expérimentaux et nos analyses montrent également que notre approche est plus robuste face aux entrées adverses.