Aufmerksamkeitsbasiertes Kodierernetzwerk für zielgerichtete Stimmungsanalyse

Die gezielte Sentiment-Klassifizierung (targeted sentiment classification) strebt danach, die emotionale Ausrichtung gegenüber spezifischen Zielen zu bestimmen. Die meisten bisherigen Ansätze modellieren Kontext und Zielwörter mit rekurrenten neuronalen Netzen (RNN) und Aufmerksamkeitsmechanismen (attention). Allerdings sind RNNs schwierig zu parallelisieren, und die abgeschnittene Rückwärtspropagation durch die Zeit (truncated backpropagation through time) erschwert das Erinnern an langfristige Muster. Um dieses Problem zu lösen, schlägt dieser Artikel ein Aufmerksamkeitsbasiertes Enkodernetzwerk (Attentional Encoder Network, AEN) vor, das auf Rekurrenz verzichtet und stattdessen aufmerksamkeitsbasierte Enkoder für das Modellieren des Zusammenhangs zwischen Kontext und Ziel verwendet. Wir adressieren zudem das Problem der unzuverlässigen Etiketten und führen Regularisierung durch Label-Smoothing ein. Des Weiteren wenden wir das vortrainierte BERT-Modell auf diese Aufgabe an und erzielen neue Standesbestimmungen (state-of-the-art results). Experimente und Analysen belegen die Effektivität und Leichtigkeit unseres Modells.