Un réseau neuronal C-LSTM pour la classification de texte

Les modèles de réseaux neuronaux ont démontré leur capacité à atteindre des performances remarquables dans la modélisation de phrases et de documents. Les réseaux neuronaux convolutifs (CNN) et les réseaux neuronaux récurrents (RNN) sont deux architectures principales utilisées pour ces tâches de modélisation, qui adoptent des méthodes totalement différentes pour comprendre les langues naturelles. Dans ce travail, nous combinons les forces de ces deux architectures et proposons un modèle novateur et unifié appelé C-LSTM pour la représentation des phrases et la classification du texte. Le C-LSTM utilise un CNN pour extraire une séquence de représentations phrastiques de niveau supérieur, qui est ensuite alimentée dans un réseau neuronal récurrent à mémoire à court et long terme (LSTM) afin d'obtenir la représentation de la phrase. Le C-LSTM est capable de capturer à la fois les caractéristiques locales des phrases ainsi que les sémantiques globales et temporelles des phrases. Nous évaluons l'architecture proposée sur des tâches de classification d'opinions et de questions. Les résultats expérimentaux montrent que le C-LSTM surpasses tant le CNN que le LSTM, et peut atteindre d'excellentes performances sur ces tâches.