HyperAIHyperAI
vor 2 Monaten

CONTRASTE: Überwachtes kontrastives Vortraining mit aspektbasierten Prompts für die Extraktion von Aspektsentimenttripeln

Rajdeep Mukherjee; Nithish Kannen; Saurabh Kumar Pandey; Pawan Goyal
CONTRASTE: Überwachtes kontrastives Vortraining mit aspektbasierten Prompts für die Extraktion von Aspektsentimenttripeln
Abstract

Bestehende Arbeiten zur Aspekt-Sentiment-Tripel-Extraktion (ASTE) konzentrieren sich explizit darauf, effizientere Feinabstimmungstechniken für die Aufgabe zu entwickeln. Unser Motivation hingegen besteht darin, einen generischen Ansatz zu finden, der die Downstream-Leistungen mehrerer ABSA-Aufgaben gleichzeitig verbessern kann. Hierfür präsentieren wir CONTRASTE, eine innovative Vortrainingsstrategie, die kontrastives Lernen (Contrastive Learning) nutzt, um die ASTE-Leistung zu steigern. Obwohl unser Hauptaugenmerk auf ASTE liegt, zeigen wir auch den Nutzen unserer vorgeschlagenen Technik für andere ABSA-Aufgaben wie ACOS, TASD und AESC.Gegeben sei ein Satz mit seinen zugehörigen (Aspekt, Meinung, Sentiment)-Tripeln. Zunächst entwerfen wir aspektbasierte Prompts, bei denen die entsprechenden Sentiments maskiert sind. Anschließend trainieren wir ein Encoder-Decoder-Modell durch Anwendung des kontrastiven Lernens auf die vom Decoder generierten aspektspezifischen Sentimentrepräsentationen der maskierten Terme. Für das Feinabstimmen der so erlangten Modellgewichte schlagen wir einen neuen Multi-Task-Ansatz vor, bei dem das Basis-Encoder-Decoder-Modell mit zwei ergänzenden Modulen kombiniert wird: einem tagbasierten Meinungsterm-Detektor und einem regressionsbasierten Tripelzählungs-Schätzer.Ausführliche Experimente anhand von vier Benchmark-Datensätzen sowie eine detaillierte Abstrichstudie belegen die Bedeutung jeder unserer vorgeschlagenen Komponenten, da wir neue Stand-of-the-Art-Ergebnisse in ASTE erzielen.

CONTRASTE: Überwachtes kontrastives Vortraining mit aspektbasierten Prompts für die Extraktion von Aspektsentimenttripeln | Neueste Forschungsarbeiten | HyperAI