Du sollst die Online-Hassrede nicht hassen: Gegenmaßnahmen gegen Online-Hassrede

Hassinhalt in sozialen Medien nimmt stetig zu. Obwohl Plattformen wie Facebook, Twitter und Google mehrere Maßnahmen ergriffen haben, um diesem Hassinhalt entgegenzuwirken, besteht dabei häufig die Gefahr, die Meinungsfreiheit zu verletzen. Gegenrede hingegen bietet eine effektive Möglichkeit, Hassinhalt online zu bekämpfen, ohne die Meinungsfreiheit zu beeinträchtigen. Daher könnte eine alternative Strategie für diese Plattformen darin bestehen, Gegenrede als Schutzmaßnahme gegen Hassinhalt zu fördern. Um eine erfolgreiche Förderung solcher Gegenrede zu ermöglichen, ist jedoch ein tiefes Verständnis ihrer Dynamik im digitalen Raum erforderlich. Ein Mangel an sorgfältig kuratierten Daten hemmt diese Erkenntnis jedoch erheblich. In diesem Paper präsentieren wir erstmals eine Datensammlung für Gegenrede, die aus Kommentaren aus YouTube stammt. Die Daten enthalten 9438 manuell annotierte Kommentare, wobei die Labels angeben, ob ein Kommentar Gegenrede darstellt oder nicht. Diese Datensammlung ermöglicht erstmals eine rigorose Messstudie zur linguistischen Struktur von Gegenrede. Die Analyse liefert verschiedene interessante Erkenntnisse: Gegenrede-Kommentare erhalten doppelt so viele Likes wie Nicht-Gegenrede-Kommentare, in bestimmten Gemeinschaften sind die Mehrheit der Nicht-Gegenrede-Kommentare Hassrede, verschiedene Arten von Gegenrede sind nicht gleich effektiv, und die Sprachwahl der Nutzer, die Gegenrede posten, unterscheidet sich signifikant von der der Nutzer, die Nicht-Gegenrede posten – dies zeigt eine detaillierte psycholinguistische Analyse. Schließlich entwickeln wir eine Reihe von maschinellen Lernmodellen, die in der Lage sind, Gegenrede in YouTube-Videos mit einem F1-Score von 0,73 automatisch zu erkennen.