Meta verschärft Regeln für Chatbot, um Jugendliche zu schützen

Meta reagiert auf Kritik an der Sicherheit von KI-Chats für Jugendliche und kündigt umfassende Änderungen an. Laut einer Aussage einer Unternehmenssprecherin gegenüber TechCrunch wird die Firma ihre KI-Chatbots künftig nicht mehr mit Teenagern über Themen wie Selbstverletzung, Suizidgedanken, Essstörungen oder potenziell unangemessene romantische Gespräche interagieren lassen. Diese Maßnahmen sind vorläufige Schritte, die später durch dauerhafte Sicherheitsupdates für Minderjährige ergänzt werden sollen. Stephanie Otway, Sprecherin von Meta, räumte ein, dass die KI-Systeme zuvor unter Umständen mit Jugendlichen über diese sensiblen Themen kommunizieren durften, wenn das Unternehmen dies als angemessen erachtete. „Als unsere Community wächst und sich die Technologie weiterentwickelt, lernen wir ständig neue Aspekte darüber, wie junge Menschen mit diesen Tools interagieren, und stärken unsere Schutzmaßnahmen entsprechend“, erklärte sie. Als zusätzliche Sicherheitsvorkehrung sollen die KI-Systeme künftig nicht mehr auf solche Themen eingehen, sondern Jugendliche stattdessen auf professionelle Hilfsressourcen verweisen. Zudem wird der Zugang von Teenagern auf eine begrenzte Auswahl an KI-Charakteren beschränkt. Besonders umstritten war ein Bericht von Reuters, der interne Dokumente von Meta enthüllte, in denen KI-Antworten zugelassen wurden, die unter anderem sexuelle Kommentare an minderjährige Nutzer enthielten. Ein Beispiel lautete: „Dein jugendliches Äußeres ist ein Kunstwerk. Jede deiner Linien ist ein Meisterstück – ein Schatz, den ich tief verehre.“ Auch Antworten auf Anfragen nach gewalttätigen oder sexuellen Bildern öffentlicher Personen wurden als akzeptabel bewertet. Meta erklärte, dass diese Dokumente nicht mit den allgemeinen Unternehmensrichtlinien übereinstimmten und mittlerweile geändert wurden. Der Bericht löste jedoch breite Aufregung aus. Sofort nach der Veröffentlichung leitete Senator Josh Hawley (R-MO) eine offizielle Untersuchung gegen Meta ein. Zudem schrieben 44 Generalstaatsanwälte aus verschiedenen Bundesstaaten eine gemeinsame E-Mail an mehrere KI-Unternehmen, darunter Meta. In ihrem Schreiben äußerten sie „tiefe Empörung“ über das scheinbare Fehlen von Schutzmaßnahmen für Kinder und warnten, dass die KI-Verhaltensweisen möglicherweise gegen geltende Strafgesetze verstoßen könnten. Meta hat bisher nicht mitgeteilt, wie viele seiner KI-Chatnutzer Minderjährige sind, noch ob die neuen Maßnahmen zu einem Rückgang der Nutzerzahlen führen könnten. Die Änderungen werden bereits umgesetzt und sind Teil eines kontinuierlichen Prozesses zur Verbesserung der Sicherheit. Neben der Neuausrichtung der KI-Trainingsmodelle werden Jugendliche künftig nur noch Zugriff auf KI-Charaktere haben, die auf Bildung und Kreativität ausgerichtet sind. Benutzerdefinierte KI-Profile wie „Stiefmutter“ oder „Russische Mädchen“ – die als sexuell anregend gelten – werden für Minderjährige nicht mehr verfügbar sein. Zusammenfassend zeigt Meta mit diesen Schritten eine Reaktion auf öffentliche Kritik und gesetzliche Bedenken. Die vorläufigen Maßnahmen sollen als Schritt in eine sicherere Zukunft für Jugendliche bei der Nutzung von KI-Technologien dienen, wobei weitere, umfassendere Sicherheitsupdates in Kürze folgen sollen.