Modélisation de phrases neuronales discriminatives par convolution basée sur les arbres

Ce document propose un réseau neuronal convolutif basé sur les arbres (TBCNN) pour la modélisation discriminative des phrases. Nos modèles s'appuient soit sur les arbres de constitution, soit sur les arbres de dépendance des phrases. Le processus de convolution basé sur les arbres extrait les caractéristiques structurelles des phrases, et ces caractéristiques sont agrégées par max pooling. Une telle architecture permet des chemins de propagation courts entre la couche de sortie et les détecteurs de caractéristiques sous-jacents, ce qui facilite l'apprentissage et l'extraction efficaces des caractéristiques structurelles. Nous évaluons nos modèles sur deux tâches : l'analyse de sentiment et la classification des questions. Dans les deux expériences, le TBCNN surpasses les résultats précédemment considérés comme étant à l'état de l'art, y compris ceux obtenus avec des réseaux neuronaux existants et une ingénierie dédiée des caractéristiques/règles. Nous faisons également des efforts pour visualiser le processus de convolution basé sur les arbres, ce qui apporte des éclairages sur le fonctionnement de nos modèles.