Text Level Graph Neural Network für die Textklassifikation

Kürzlich haben Forscher Graph Neural Networks (GNN) für die Textklassifikation untersucht, da GNNs besonders gut geeignet sind, komplexe Strukturen zu verarbeiten und globale Informationen zu bewahren. Allerdings stehen bisherige GNN-basierte Ansätze vor praktischen Herausforderungen, insbesondere hinsichtlich einer festen, auf Korpus-Ebene definierten Graphstruktur, die keine Online-Testung ermöglicht und hohe Speicheranforderungen stellt. Um diese Probleme zu lösen, schlagen wir ein neuartiges GNN-basiertes Modell vor, das für jeden Eingabetext individuell einen Graphen unter Verwendung globaler Parameter-Teilung aufbaut, anstatt einen einzigen Graphen für das gesamte Korpus zu verwenden. Diese Herangehensweise entlastet die Abhängigkeit einzelner Texte vom gesamten Korpus und ermöglicht somit Online-Testung, bewahrt jedoch weiterhin globale Informationen. Zudem werden die Graphen mit deutlich kleineren Fenstern im Text erstellt, was nicht nur detailliertere lokale Merkmale extrahiert, sondern auch die Anzahl der Kanten sowie den Speicherverbrauch erheblich reduziert. Experimente zeigen, dass unser Modell auf mehreren Textklassifikationsdatensätzen bestehende Ansätze übertrifft, und zwar selbst bei geringerem Speicherverbrauch.