Erneute Betrachtung der kontextuellen Toxizitätserkennung in Konversationen

Das Verständnis von Toxizität in Benutzerkonversationen ist zweifellos ein wichtiges Problem. Die Bewältigung von „verdeckten“ oder impliziten Fällen von Toxizität ist besonders schwierig und erfordert Kontext. Sehr wenige frühere Studien haben den Einfluss des konversationellen Kontextes auf die menschliche Wahrnehmung oder auf automatisierte Erkennungsmodelle analysiert. Wir untersuchen beide Richtungen genauer. Wir beginnen mit der Analyse bestehender kontextueller Datensätze und kommen zu dem Schluss, dass die Toxizitätsbewertung durch Menschen im Allgemeinen von der konversationellen Struktur, Polarität und Thematik des Kontextes beeinflusst wird. Anschließend schlagen wir vor, diese Erkenntnisse in computergestützte Erkennungsmodelle einzubringen, indem wir (a) neuronale Architekturen für kontextuelle Toxizitätsdetektion einführen und evaluieren, die sich der konversationellen Struktur bewusst sind, und (b) Datenverstärkungsstrategien, die bei der Modellierung der kontextuellen Toxizitätsdetektion helfen können. Unsere Ergebnisse haben das ermutigende Potenzial neuronaler Architekturen gezeigt, die sich der Konversationsstruktur bewusst sind. Wir haben auch demonstriert, dass solche Modelle von synthetischen Daten profitieren können, insbesondere im Bereich sozialer Medien.