Résumé extraitif neuronal basé sur un réseau de graphe hiérarchique attentif hétérogène

La synthèse de texte extraitive au niveau des phrases est fondamentalement une tâche de classification de nœuds dans le cadre du mining de réseaux, en s’appuyant sur des composants informatifs et des représentations concises. De nombreuses phrases redondantes apparaissent entre les phrases extraites, mais il est difficile pour les méthodes supervisées générales de les modéliser de manière précise. Les encodeurs de phrases précédents, en particulier BERT, se spécialisent dans la modélisation des relations entre les phrases sources. Toutefois, ils ne sont pas capables de tenir compte des chevauchements présents dans les phrases sélectionnées pour le résumé cible, ni des dépendances intrinsèques entre les étiquettes cibles des phrases. Dans cet article, nous proposons HAHSum (abréviation de Hierarchical Attentive Heterogeneous Graph for Text Summarization), qui modélise efficacement différentes niveaux d’information, y compris au niveau des mots et des phrases, tout en mettant en évidence les dépendances de redondance entre les phrases. Notre approche affine itérativement les représentations des phrases à l’aide d’un graphe sensible à la redondance, tout en transmettant les dépendances d’étiquettes par propagation de messages. Des expériences menées sur de grands corpus de référence (CNN/DM, NYT et NEWSROOM) démontrent que HAHSum atteint des performances révolutionnaires et surpasse les méthodes extraitives antérieures.