Meta hat zusätzliche Sicherheitsvorkehrungen für Meta AI angekündigt, die speziell auf den Schutz jugendlicher Nutzer vor den Folgen sensibler Gespräche über Suizid und Selbstverletzung abzielen. Künftig wird die KI beaufsichtigende Eltern proaktiv informieren, wenn Chats auf ein potenzielles Risiko hinweisen. Die Erkennung basiert auf mit Fachleuten entwickelten Signalen. Um Fehlalarme zu minimieren, werden alle von der KI markierten Konversationen vor der Weiterleitung einer manuellen Prüfung unterzogen. Im Zweifelsfall entscheidet das Unternehmen vorsorglich zugunsten einer Benachrichtigung, da die Sicherheit der Jugendlichen priorisiert werde. Die Funktion ist bereits für Nutzer der Instagram-Elternaufsicht in den Vereinigten Staaten, dem Vereinigten Königreich, Australien und Kanada aktiv und soll bis zum Jahresende global verfügbar sein. Sie ergänzt die bestehenden Warnungen bei wiederholten Suchanfragen zu Krisenthemen. Parallel dazu arbeitet Meta an der Integration von Notfalldiensten in die AI-Infrastruktur. Sollte ein Gespräch, unabhängig vom Alter der Person, auf eine unmittelbare Selbstgefährdung hindeuten, wird die Kontaktaufnahme mit Rettungsservices ermöglicht. Dies baut auf den bereits etablierten Verfahren zur Meldung gefährdender Beiträge auf, bei denen Meta im vergangenen Jahr weltweit über 19.000 Fälle an Hilfsdienste weiterleitete. Die Anpassungen der AI-Responses gehen auf intensive Beratungen mit dem AI-Wellbeing-Expert Council sowie über 75 auf Jugendpsychiatrie spezialisierten Kliniken zurück. Die Rückmeldungen fließen direkt in die Optimierung der Interaktionsmuster ein, wobei der Fokus auf empathischer Anerkennung der Nutzergefühle und der Vermeidung vorzeitiger Gesprächsabbrüche liegt. Ergänzend zu diesen Maßnahmen wird der strikte Eingeschränkter-Inhalt-Modus auf die AI-Chats ausgeweitet. Teen-Konten sind standardmäßig auf eine altersgerechte 13-plus-Einstellung konfiguriert, die bereits unangemessene Themen ausschließt. Eltern, die den strengeren Filter aktivieren, stellen zudem fest, dass Meta AI in diesem Modus eine deutlich größere Bandbreite an sensiblen oder riskanten Eingaben ablehnt. Diese Schritte sollen ein sichereres digitales Umfeld schaffen und gleichzeitig den Eltern transparente Werkzeuge an die Hand geben, um im Bedarfsfall schnell intervenieren zu können. Die kontinuierliche Überprüfung der Erkennungslogik und der klinischen Bewertungen soll die Effektivität der Maßnahmen langfristig gewährleisten.