Meta stellt neue Elternkontrollen für KI-Erlebnisse vor

Meta hat am Freitag neue Elternkontrollen für die Interaktionen von Jugendlichen mit KI-Charakteren auf seinen Plattformen vorgestellt, die Anfang nächsten Jahres schrittweise eingeführt werden. Die Funktionen ermöglichen es Eltern, Gespräche mit bestimmten KI-Charakteren zu blockieren oder vollständig abzuschalten, ohne dass der allgemeine Meta AI-Chatbot, der altersgerechte Inhalte bietet, beeinträchtigt wird. Eltern können zudem wählen, ob sie nur einzelne Charaktere deaktivieren oder alle KI-Interaktionen für ihre Kinder ausschalten möchten. Zudem erhalten sie Informationen über die Themen, über die ihre Kinder mit KI-Charakteren sprechen. Die neuen Kontrollen werden zunächst auf Instagram eingeführt und zunächst in Englisch in den USA, Großbritannien, Kanada und Australien verfügbar sein. Meta betont, dass die Sicherheit von Jugendlichen im Zentrum der Entwicklungen steht. Die Firma erkennt an, dass Eltern bereits viel Verantwortung bei der digitalen Sicherheit ihrer Kinder tragen, und möchte ihnen durch zusätzliche Tools und Ressourcen die Orientierung erleichtern – besonders im Umgang mit neuen Technologien wie KI. Bereits vor Kurzem hatte Meta angekündigt, dass KI-Erlebnisse für Jugendliche nach dem PG-13-Filmstandard gestaltet werden sollen, was bedeutet, dass sensible Themen wie extreme Gewalt, Nacktheit oder detaillierte Darstellungen von Drogenkonsum vermieden werden. Aktuell können Jugendliche nur mit einer begrenzten Auswahl an altersgerechten KI-Charakteren interagieren, die sich beispielsweise mit Bildung, Sport oder Hobbys beschäftigen – nicht jedoch mit romantischen oder unangemessenen Themen. Zudem können Eltern Zeitlimits für die Nutzung von KI-Interaktionen einstellen, bis hin zu 15 Minuten pro Tag. Meta setzt auch auf technische Maßnahmen, um Manipulationen zu verhindern: KI-Systeme werden eingesetzt, um Nutzer zu identifizieren, die versuchen, ihre Altersangabe zu fälschen, um Zugang zu Jugendinhalten zu erlangen, und diese automatisch in die geschützten Bereiche einzubinden. Die Ankündigung erfolgt in einem Kontext, in dem mehrere Plattformen – darunter OpenAI und YouTube – ebenfalls neue Sicherheitsfunktionen für Jugendliche vorgestellt haben. Diese Entwicklungen reagieren auf wachsende Sorge über die Auswirkungen sozialer Medien auf die psychische Gesundheit von Jugendlichen und auf Klagen gegen KI-Unternehmen, die behaupten, dass ihre Technologien zur Suizidgefahr bei Jugendlichen beigetragen hätten. Meta betont, dass KI nicht die menschliche Interaktion ersetzen soll, sondern als unterstützendes Werkzeug dienen soll, um zum Beispiel beim Lernen von Programmierung oder Grafikdesign zu helfen. Die Zielsetzung ist, dass KI Jugendliche bei der Entdeckung neuer Fähigkeiten und beim Überwinden von Schwierigkeiten im Schulunterricht unterstützt – aber stets unter strengen altersgerechten Schutzmaßnahmen. Die neuen Elternkontrollen sind Teil einer fortlaufenden Verbesserung der Sicherheitsmaßnahmen für Jugendliche, die auf den Bedenken von Eltern basieren: Wer mit wem kommuniziert, welche Inhalte angezeigt werden und wie viel Zeit im digitalen Raum verbracht wird. Meta versichert, dass es die Schutzmaßnahmen kontinuierlich anpassen und weiterentwickeln wird, um den sich schnell verändernden Herausforderungen der KI-Technologie gerecht zu werden.