Graphenkonvolutionelle Netze für die Textklassifizierung

Die Textklassifizierung ist ein wichtiges und klassisches Problem im Bereich der natürlichen Sprachverarbeitung. Es gibt eine Reihe von Studien, die Faltungsneuronale Netze (Faltung auf regulärem Gitter, z.B. Sequenz) für Klassifizierungsaufgaben eingesetzt haben. Allerdings haben nur wenige Studien flexiblere Graph-Faltungsneuronale Netze (Faltung auf nicht-regulärem Gitter, z.B. beliebiger Graph) für diese Aufgabe untersucht. In dieser Arbeit schlagen wir vor, Graph-Faltungsnetze für die Textklassifizierung zu verwenden. Wir erstellen einen einzelnen Textgraphen für ein Korpus basierend auf Wortkoexistenz und Dokument-Wort-Beziehungen und lernen dann ein Text-Graph-Faltungsnetzwerk (Text GCN) für dieses Korpus. Unser Text GCN wird mit einer One-Hot-Darstellung für Wörter und Dokumente initialisiert und lernt dann gemeinsam die Einbettungen sowohl für Wörter als auch für Dokumente, wie durch die bekannten Klassenlabels der Dokumente überwacht. Unsere experimentellen Ergebnisse an mehreren Benchmark-Datensätzen zeigen, dass ein einfaches Text GCN ohne externe Wort-Einbettungen oder Wissen den Stand der Technik übertreffen kann. Andererseits lernt das Text GCN auch prädiktive Wort- und Dokument-Einbettungen. Darüber hinaus deuten die experimentellen Ergebnisse darauf hin, dass die Verbesserung des Text GCNs gegenüber vergleichbaren Methoden des aktuellen Standes der Technik umso deutlicher wird, je geringer der Anteil der Trainingsdaten ist, was die Robustheit des Text GCNs bei weniger Trainingsdaten in der Textklassifizierung nahelegt.