HyperAIHyperAI

Command Palette

Search for a command to run...

vor 4 Monaten

Ein einfaches aber wirksames Framework für Few-Shot Aspect-basierte Sentimentanalyse

{Xia Xie; Rui Wang; Qiming Zengzhi}

Abstract

Das Prätrainings- und Fine-Tuning-Paradigma ist zum dominierenden Framework im Bereich der aspect-basierten Sentimentanalyse (Aspect-Based Sentiment Analysis, ABSA) geworden. Obwohl es in Domänen mit ausreichend feinkörnigen Aspekt-Sentiment-Anmerkungen beachtliche Leistung erzielt, bleibt die Durchführung von Few-Shot-ABSA in Domänen mit seltenen manuellen Annotationen weiterhin herausfordernd. In dieser Arbeit argumentieren wir, dass zwei Arten von Lücken – die Domänenlücke und die Zielsetzungslücke – die Übertragung von Wissen von prätrainierten Sprachmodellen (Pre-trained Language Models, PLMs) auf ABSA-Aufgaben behindern. Um dieses Problem anzugehen, führen wir einen einfachen, jedoch effektiven Ansatz namens FS-ABSA ein, der domain-adaptives Prätraining und Text-Infilling-Fine-Tuning umfasst. Wir formulieren die End-to-End-ABSA-Aufgabe als Text-Infilling-Aufgabe und führen das domain-adaptive Prätraining mit dem Ziel des Text-Infilling durch, wodurch die beiden Lücken verkleinert und die Wissensübertragung somit erleichtert wird. Experimente zeigen, dass das resultierende Modell unter Few-Shot-Bedingungen gegenüber Baselines überzeugendere Ergebnisse erzielt und unter vollständig überwachten Bedingungen die bisher beste Leistung über alle Datensätze hinweg erneut übertreffen kann. Zudem wenden wir unseren Ansatz auf zwei nicht-englische, ressourcenarme Sprachen an, um dessen Allgemeingültigkeit und Effektivität zu demonstrieren.

Benchmarks

BenchmarkMethodikMetriken
aspect-based-sentiment-analysis-on-semeval-5FS-ABSA
F1: 71.16
aspect-based-sentiment-analysis-on-semeval-6FS-ABSA
F1: 71.16
aspect-term-extraction-and-sentimentFS-ABSA
Avg F1: 76.73
Laptop 2014 (F1): 71.16
Restaurant 2014 (F1): 82.29

KI mit KI entwickeln

Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.

KI-Co-Coding
Sofort einsatzbereit GPUs
Beste Preise
Jetzt starten

Hyper Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Ein einfaches aber wirksames Framework für Few-Shot Aspect-basierte Sentimentanalyse | Forschungsarbeiten | HyperAI