TeamUNCC@LT-EDI-EACL2021: Hope Speech Detection mittels Transfer Learning mit Transformers

In diesem Paper beschreiben wir unseren Ansatz zur Nutzung vortrainierter Modelle für die Aufgabe der Hope-Speech-Erkennung. Wir haben an der Aufgabe 2: Hope Speech Detection for Equality, Diversity and Inclusion beim LT-EDI-2021 @ EACL2021 teilgenommen. Ziel dieser Aufgabe ist die Vorhersage des Vorhandenseins von Hope-Speech sowie die Berücksichtigung von Beispielen, die nicht zur gleichen Sprache wie die Hauptsprache des Datensatzes gehören. Wir präsentieren unseren Ansatz zur Feinabstimmung von RoBERTa für die Hope-Speech-Erkennung im Englischen sowie unseren Ansatz zur Feinabstimmung von XLM-RoBERTa für die Hope-Speech-Erkennung in Tamil und Malayalam, zwei Sprachen mit geringen Ressourcen aus dem indischen Sprachraum. Wir demonstrieren die Leistungsfähigkeit unseres Ansatzes bei der Klassifizierung von Texten in die Kategorien Hope-Speech, Non-Hope und Nicht-Sprache. Unser Ansatz erreichte den ersten Platz im Englischen (F1 = 0,93), den ersten Platz im Tamilischen (F1 = 0,61) und den dritten Platz im Malayalam (F1 = 0,83).