NutCracker am WNUT-2020 Task 2: Robuste Identifizierung informativer COVID-19-Tweets mittels Ensembling und adversarieller Training

Wir experimentieren mit den Modellen COVID-Twitter-BERT und RoBERTa, um informativ wirkende Twitter-Beiträge zu COVID-19 zu identifizieren. Zudem führen wir adversarische Trainingsstrategien ein, um die Robustheit unserer Modelle zu erhöhen. Die Ensemble-Methode aus COVID-Twitter-BERT und RoBERTa erreicht auf den Testdaten der WNUT-2020-Aufgabe 2 einen F1-Score von 0,9096 (für die positive Klasse) und belegt damit den ersten Platz in der Leaderboard-Rangliste. Auch das Ensemble der mit adversariischem Training trainierten Modelle erzielt vergleichbare Ergebnisse.