Diskriminatives neuronales Satzmodellierung durch bausbare Faltung

Dieses Papier schlägt ein bausbasiertes Faltungsneuronales Netzwerk (TBCNN) für diskriminatives Satzmodellierung vor. Unsere Modelle nutzen entweder Konstituentenbäume oder Abhängigkeitsbäume von Sätzen. Der bausbasierte Faltungsprozess extrahiert die strukturellen Merkmale der Sätze, und diese Merkmale werden durch Max-Pooling aggregiert. Diese Architektur ermöglicht kurze Verbreitungswege zwischen der Ausgabeschicht und den zugrunde liegenden Merkmalsdetektoren, was effektives strukturelles Merkmalslernen und -extrahieren ermöglicht. Wir evaluieren unsere Modelle anhand zweier Aufgaben: Sentimentanalyse und Frageklassifizierung. In beiden Experimenten übertrifft das TBCNN frühere Stand-von-der-Kunst-Ergebnisse, einschließlich bestehender neuronaler Netze und spezieller Merkmal-/Regelgenerierung. Zudem legen wir Wert auf die Visualisierung des bausbasierten Faltungsprozesses, um Einblicke in den Funktionsmechanismus unserer Modelle zu geben.