Embeddings de phrases dans l'INL avec des encodeurs d'affinage itératif

Les représentations au niveau des phrases sont nécessaires pour diverses tâches de traitement du langage naturel (NLP). Les réseaux neuronaux récurrents ont fait leurs preuves dans l'apprentissage de représentations distribuées et peuvent être formés efficacement sur des tâches d'inférence en langage naturel. Nous nous appuyons sur un tel modèle et proposons une hiérarchie de couches BiLSTM et de max pooling qui met en œuvre une stratégie de raffinement itératif et produit des résultats à la pointe de l'état de l'art sur le jeu de données SciTail, ainsi que des résultats solides pour SNLI et MultiNLI. Nous démontrons que les plongements (embeddings) de phrases appris de cette manière peuvent être utilisés dans une large variété de tâches d'apprentissage par transfert, surpassant InferSent dans 7 sur 10 tâches d'évaluation des plongements de phrases SentEval et SkipThought dans 8 sur 9 tâches. De plus, notre modèle bat le modèle InferSent dans 8 sur 10 tâches d'exploration SentEval récemment publiées, conçues pour évaluer la capacité des plongements de phrases à capturer certaines propriétés linguistiques importantes des phrases.