PALI-NLP bei SemEval-2022 Task 4: Diskriminatives Feinjustieren von Transformatoren zur Erkennung von herablassender und überheblicher Sprache

Patronisierende und herablassende Sprache (PCL) hat einen großen schädlichen Einfluss und ist sowohl für menschliche Beurteiler als auch für bestehende NLP-Systeme schwer zu erkennen. Im Rahmen der SemEval-2022 Aufgabe 4 schlagen wir ein neues Transformer-basiertes Modell und dessen Ensembles vor, um den Kontext solcher Sprache für die PCL-Erkennung genauer zu verstehen. Um das verdeckte und subjektive Wesen der PCL zu erleichtern, werden zwei Feinabstimmungsstrategien angewendet, um diskriminierende Merkmale aus unterschiedlichem sprachlichen Verhalten und kategorialer Verteilung zu erfassen. Das System erzielt bemerkenswerte Ergebnisse in der offiziellen Rangliste, darunter den 1. Platz in Teilaufgabe 1 und den 5. Platz in Teilaufgabe 2. Ausführliche Experimente zur Aufgabe belegen die Effektivität unseres Systems und seiner Strategien.