Analyse de dépendance simple et précise à l'aide de représentations de caractéristiques bidirectionnelles LSTM

Nous présentons un schéma simple et efficace pour l'analyse des dépendances basé sur les réseaux de neurones à longue courte mémoire bidirectionnels (BiLSTMs). Chaque jeton de phrase est associé à un vecteur BiLSTM représentant le jeton dans son contexte sententiel, et les vecteurs de caractéristiques sont construits en concaténant quelques vecteurs BiLSTM. Le BiLSTM est entraîné conjointement avec l'objectif du parseur, ce qui conduit à des extracteurs de caractéristiques très efficaces pour l'analyse des dépendances. Nous démontrons l'efficacité de cette approche en laappliquant à un parseur basé sur des transitions gloutonnes ainsi qu'à un parseur basé sur des graphes optimisé globalement. Les parseurs résultants ont des architectures très simples et atteignent ou surpassent les précisions d'état de l'art en anglais et en chinois.