Untersuchung von Capsule-Netzwerken mit dynamischer Routing für die Textklassifizierung

In dieser Studie untersuchen wir Kapselnetze mit dynamischer Routing für die Textklassifizierung. Wir schlagen drei Strategien vor, um den Prozess des dynamischen Routings zu stabilisieren und so die Störung durch einige Rauschkapseln zu verringern, die möglicherweise "Hintergrund"-Informationen enthalten oder nicht erfolgreich trainiert wurden. Eine Reihe von Experimenten wurde mit Kapselnetzen auf sechs Benchmarks für Textklassifizierung durchgeführt. Die Kapselnetze erzielen den aktuellen Stand der Technik (state of the art) in 4 von 6 Datensätzen, was die Effektivität von Kapselnetzen für die Textklassifizierung zeigt. Darüber hinaus weisen wir nach, dass Kapselnetze bei der Übertragung von Einzel- auf Mehrfachetikettierung erhebliche Verbesserungen gegenüber starken Baseline-Methoden aufweisen. Nach bestem Wissen ist dies die erste Arbeit, in der Kapselnetze empirisch für das Textmodellieren untersucht wurden.