Ein Forscherteam der Concordia University hat ein neuartiges KI-System zur Erkennung toxischer Online-Inhalte entwickelt, das bestehende Lösungen sowohl in der Genauigkeit als auch in der Verarbeitungsgeschwindigkeit deutlich übertrifft. Die Ergebnisse wurden im Fachjournal Knowledge-Based Systems (2026) veröffentlicht und adressieren die zunehmende Herausforderung, schädliche Nutzerinhalte bei der massenhaften Generierung von Daten in Echtzeit zu filtern. Entwickelt unter der Leitung von Arezo Bodaghi in Zusammenarbeit mit Ketra Schmitt und Benjamin Fung von der McGill University, basiert das Framework auf einem belohnungs- und strafbasierten Reinforcement-Learning-Ansatz. Dieser ermöglicht es der KI, kontinuierlich ein Gleichgewicht zwischen Erkennungsgenauigkeit und Verarbeitungstempo zu finden und sich dynamisch an neue Inhaltsmuster anzupassen. Plattformbetreiber können individuelle Richtlinien priorisieren, um die Definition von Toxizität selbst festzulegen. Die Architektur folgt einem gestuften Kaskadenmodell mit dem Namen PPO-CIS. Zunächst durchsucht ein schneller Erstfilter große Datenmengen auf potenziell schädliche Inhalte. Der Großteil wird als unbedenklich klassifiziert und freigegeben. Als verdächtig markierte Beiträge werden einem langsameren, präziseren Zweitklassifizierer zugeführt. Nur verbleibende Grauzonen werden zur endgültigen Bewertung an menschliche Moderatoren weitergeleitet. Durch die Integration mehrerer Moderationsmodelle werden deren jeweilige Stärken genutzt und Schwächen kompensiert. Dies kennzeichnet den ersten Einsatz dieser Methodik im Bereich der Toxizitätserkennung. In Tests auf den Datensätzen AugmenToxic und ToxiGen belegte PPO-CIS eine um 2,1 Prozent höhere Trefferquote im Vergleich zu etablierten Modulen. Hinsichtlich des Durchsatzes schnitt das System deutlich besser ab: Es verarbeitet 384 Datensätze pro Sekunde, während vergleichbare Ansätze lediglich bei etwa 43 Datensätzen pro Sekunde liegen. Auch gegenüber dem früheren reinforcement-basierten CETRA-System, das ursprünglich für die Malware-Erkennung konzipiert wurde, zeigte PPO-CIS klare Vorteile. Angesichts steigender regulatorischer Anforderungen und strikter Auflöschfristen in mehreren Rechtsräumen wird die Leistungsfähigkeit des Systems besonders für soziale Plattformen relevant sein. Die Kombination aus adaptiver KI-Steuerung, effizienter Mehrstufenarchitektur und anpassungsfähiger Policy-Integration markiert einen signifikanten Fortschritt in der automatisierten Inhaltsmoderation.