Supertagging de la Grammaire Catégorielle Combinatoire avec des Réseaux de Convolution Graphique Attentifs

Le supertagging est traditionnellement considéré comme une tâche importante pour l'analyse syntaxique par grammaire catégorielle combinatoire (CCG), où la modélisation efficace des informations contextuelles est d'une grande importance pour cette tâche. Cependant, les études existantes ont fait des efforts limités pour exploiter les caractéristiques contextuelles, à l'exception de l'utilisation d'encodeurs puissants (par exemple, bi-LSTM). Dans cet article, nous proposons des réseaux de neurones convolutionnels sur graphe avec mécanisme d'attention afin d'améliorer le supertagging CCG neuronal grâce à une nouvelle approche d'exploitation des informations contextuelles. Plus précisément, nous construisons le graphe à partir de segments (n-grammes) extraits d'un lexique et appliquons un mécanisme d'attention sur ce graphe, de manière à ce que différentes paires de mots provenant des contextes intra et inter-segments soient pondérées dans le modèle et facilitent ainsi le supertagging. Les expériences menées sur CCGbank montrent que notre approche surpassent toutes les études précédentes en termes de supertagging et d'analyse syntaxique. Des analyses supplémentaires illustrent l'efficacité de chaque composant de notre approche pour apprendre discriminativement à partir des paires de mots afin d'améliorer le supertagging CCG.