Faltungsneuronale Netze für die Satzklassifizierung

Wir berichten über eine Reihe von Experimenten mit Faltungsneuronalen Netzen (CNN), die auf vorgefertigten Wortvektoren für Satz-Level-Klassifizierungsaufgaben trainiert wurden. Wir zeigen, dass ein einfaches CNN mit minimaler Hyperparameter-Optimierung und statischen Vektoren ausgezeichnete Ergebnisse bei mehreren Benchmarks erzielt. Das Lernen von aufgabenspezifischen Vektoren durch Feinabstimmung bietet zusätzliche Leistungsverbesserungen. Zudem schlagen wir eine einfache Modifikation der Architektur vor, um sowohl aufgabenspezifische als auch statische Vektoren zu verwenden. Die in diesem Bericht diskutierten CNN-Modelle verbessern den Stand der Technik bei 4 von 7 Aufgaben, darunter Sentiment-Analyse und Frageklassifizierung.