Meta hat den Zugang von Jugendlichen zu KI-Charakteren weltweit vorübergehend gestoppt, um eine speziell für Teens entwickelte Version zu erstellen. Laut einem exklusiven Bericht an TechCrunch will das Unternehmen die Entwicklung nicht aufgeben, sondern stattdessen eine altersgerechte und sicherere Variante der KI-Interaktionen schaffen. Die Entscheidung fällt knapp vor dem Beginn eines Prozesses in New Mexico, bei dem Meta vorgeworfen wird, ungenügend Maßnahmen ergriffen zu haben, um Kinder vor sexueller Ausbeutung auf seinen Plattformen zu schützen. Zudem wurde berichtet, dass Meta versucht hat, die Evidenz zu sozialen Medien-Einflüssen auf die psychische Gesundheit Jugendlicher einzuschränken. Im Oktober hatte Meta bereits neue Elternkontrollfunktionen eingeführt, die sich an das PG-13-Kinorating orientieren. Diese beschränkten den Zugriff von Jugendlichen auf Themen wie extreme Gewalt, Nacktheit und grafische Drogenverwendung. Zudem hatte das Unternehmen erste Kontrollmöglichkeiten für KI-Charaktere vorgestellt, die es Eltern ermöglichen sollten, Gesprächsthemen zu überwachen, bestimmte Charaktere zu blockieren und den gesamten Chat mit KI-Charakteren abzuschalten. Diese Funktionen waren für dieses Jahr geplant, werden nun aber vorerst ganz abgeschaltet. Meta begründet den Schritt mit Rückmeldungen von Eltern, die mehr Transparenz und Kontrolle über die Interaktionen ihrer Kinder mit KI-Charakteren wünschten. Ab kommenden Wochen werden Jugendliche – also alle, die ein Teenager-Geburtsdatum angegeben haben oder nach Altersvorhersagemodellen als solche klassifiziert werden – keinen Zugriff mehr auf KI-Charaktere in Instagram, Facebook und anderen Apps haben. Die neue Version soll künftig eingebaute Elternkontrollen, altersgerechte Antworten und einen Fokus auf Themen wie Bildung, Sport und Hobbys bieten. Die Entscheidung spiegelt eine zunehmende regulatorische und gesellschaftliche Druck auf soziale Medien und KI-Unternehmen wider. Neben dem Prozess in New Mexico steht Meta auch vor einem weiteren Prozess, in dem es angeklagt wird, soziale Medienabhängigkeit bei Jugendlichen zu fördern. CEO Mark Zuckerberg wird erwartet, als Zeuge auszusagen. Auch andere KI-Unternehmen reagieren: Character.AI hat ab Oktober Chatbots für Unter-18-Jährige auf geschützte, strukturierte Interaktionen beschränkt und ab November interaktive Geschichten für Kinder entwickelt. OpenAI hat zudem neue Sicherheitsregeln für ChatGPT eingeführt und die Altersvorhersage implementiert, um Inhaltsbeschränkungen automatisch zu aktivieren. Industrieexperten sehen in der Maßnahme von Meta einen signifikanten Schritt zur Verantwortung in der KI-Entwicklung für Jugendliche. „Die Pause zeigt, dass das Unternehmen die Risiken ernst nimmt und nicht nur auf schnelle Innovation setzt“, sagt ein Analyst von TechPolicy Watch. „Aber es bleibt abzuwarten, ob die neue Version wirklich sicherer ist oder nur eine Marketingstrategie, um rechtliche Konsequenzen abzuwenden.“ Meta bleibt weiterhin unter Druck, seine KI-Produkte transparent und verantwortungsvoll zu gestalten, besonders in einem Markt, in dem Kinder und Jugendliche besonders schutzbedürftig sind.