HyperAIHyperAI
vor 3 Monaten

Aspektbasierte Sentimentanalyse mithilfe von BERT mit entkoppeltem Attention

{Ricardo M. Marcacini, Emanuel H. Silva}
Aspektbasierte Sentimentanalyse mithilfe von BERT mit entkoppeltem Attention
Abstract

Aspect-basierte Sentimentanalyse (Aspect-Based Sentiment Analysis, ABSA) zielt darauf ab, die Meinungen von Verbrauchern bezüglich verschiedener Aspekte von Produkten oder Dienstleistungen zu identifizieren. BERT-basierte Sprachmodelle haben sich erfolgreich in Anwendungen bewährt, die ein tiefes Verständnis der Sprache erfordern, wie beispielsweise der Sentimentanalyse. In dieser Arbeit wird der Einsatz von entkoppeltem Lernen zur Verbesserung der BERT-basierten Textdarstellungen in ABSA-Aufgaben untersucht. Ausgehend von dem Erfolg der entkoppelten Darstellungslernmethoden im Bereich der Computer Vision, die darauf abzielen, erklärende Faktoren der Datendarstellungen zu ermitteln, wird der neuere DeBERTa-Modell (Decoding-enhanced BERT with Disentangled Attention) evaluiert, um syntaktische und semantische Merkmale aus einer BERT-Architektur zu entkoppeln. Experimentelle Ergebnisse zeigen, dass die Integration von entkoppeltem Attention sowie einer einfachen Feinabstimmungsstrategie für nachgeschaltete Aufgaben die Leistungszahlen bestehender State-of-the-Art-Modelle auf den Standard-Benchmark-Datensätzen für ABSA übertrifft.