Ces dernières années ont vu des succès remarquables dans l'utilisation des réseaux neuronaux profonds pour le résumé de texte. Cependant, il n'existe pas encore de compréhension claire de \textit{pourquoi} ils fonctionnent si bien, ni de \textit{comment} ils pourraient être améliorés. Dans cet article, nous cherchons à mieux comprendre comment les systèmes de résumé extraitif neuronale pourraient bénéficier de différentes architectures de modèles, de connaissances transférables et de schémas d'apprentissage. De plus, nous avons trouvé un moyen efficace d'améliorer les cadres actuels et d'obtenir un résultat d'état de l'art sur CNN/DailyMail avec une marge considérable, basé sur nos observations et analyses. Nous espérons que notre travail fournira davantage d'indices pour les futures recherches sur le résumé extraitif.