Hierarchische Aufmerksamkeits-hybride Neuronale Netze für Dokumentenklassifizierung

Die Dokumentklassifizierung ist eine anspruchsvolle Aufgabe mit wichtigen Anwendungen. Die tiefen Lernverfahren zur Lösung dieses Problems haben in letzter Zeit viel Aufmerksamkeit erhalten. Trotz der Fortschritte integrieren die vorgeschlagenen Modelle das Wissen über die Dokumentstruktur in der Architektur nicht effizient und berücksichtigen nicht die kontextbezogene Bedeutung von Wörtern und Sätzen. In dieser Arbeit schlagen wir einen neuen Ansatz vor, der auf einer Kombination von Faltungsneuralnetzen (Convolutional Neural Networks), geregten Rekurrenten Einheiten (Gated Recurrent Units) und Aufmerksamkeitsmechanismen basiert, um Klassifizierungsaufgaben für Dokumente zu lösen. Der Hauptbeitrag dieser Arbeit besteht darin, dass durch die Verwendung von Faltungsschichten bedeutendere, verallgemeinerbare und abstraktere Merkmale durch eine hierarchische Darstellung extrahiert werden. Die in diesem Papier vorgestellte Methode verbessert die Ergebnisse der aktuellen aufmerksamkeitsgesteuerten Ansätze für die Dokumentklassifizierung.