HyperAIHyperAI
vor 9 Tagen

Anpassung von BERT für das kontinuierliche Lernen einer Folge von Aspekt-Sentiment-Klassifizierungsaufgaben

Zixuan Ke, Hu Xu, Bing Liu
Anpassung von BERT für das kontinuierliche Lernen einer Folge von Aspekt-Sentiment-Klassifizierungsaufgaben
Abstract

Diese Arbeit untersucht das kontinuierliche Lernen (Continual Learning, CL) einer Folge von Aspekt-Sentiment-Klassifikationsaufgaben (Aspect Sentiment Classification, ASC). Obwohl einige CL-Techniken für die Dokument-Sentiment-Klassifikation vorgeschlagen wurden, sind wir uns nicht der Existenz von CL-Ansätzen für ASC bewusst. Ein CL-System, das eine Folge von ASC-Aufgaben inkrementell erlernt, muss zwei zentrale Herausforderungen bewältigen: (1) Wissen, das aus vorherigen Aufgaben gewonnen wurde, auf die neue Aufgabe zu übertragen, um deren Modellbildung zu verbessern, und (2) die Leistung der Modelle für die vorherigen Aufgaben zu erhalten, um Vergessen zu vermeiden. In dieser Arbeit wird ein neuartiges, auf Kapselnetzwerken basierendes Modell namens B-CL vorgestellt, das diese Herausforderungen adressiert. B-CL verbessert die ASC-Leistung sowohl auf der neuen als auch auf den alten Aufgaben signifikant durch Vorwärts- und Rückwärts-Wissensübertragung. Die Wirksamkeit von B-CL wird durch umfangreiche Experimente nachgewiesen.

Anpassung von BERT für das kontinuierliche Lernen einer Folge von Aspekt-Sentiment-Klassifizierungsaufgaben | Neueste Forschungsarbeiten | HyperAI