Etwa 12 Prozent der US-amerikanischen Jugendlichen nutzen KI-Chatsysteme für emotionale Unterstützung oder Beratung, zeigt eine am Dienstag vom Pew Research Center veröffentlichte Studie. Während die häufigsten Nutzungszwecke unter Teenagern noch die Informationsbeschaffung (57 Prozent) und Hilfe bei Schularbeiten (54 Prozent) sind, greifen immer mehr junge Menschen auf KI-Chatbots zurück, um soziale oder emotionale Bedürfnisse zu erfüllen – eine Rolle, die traditionell von Freunden oder Familienmitgliedern übernommen wird. So geben 16 Prozent an, KI für lockere Gespräche zu nutzen, 12 Prozent für emotionale Unterstützung. Psychologen warnen jedoch vor den Risiken: Allgemeine KI-Systeme wie ChatGPT, Claude oder Grok sind nicht für therapeutische Zwecke konzipiert und können in extremen Fällen gravierende psychische Folgen haben. Dr. Nick Haber von der Stanford University warnte, dass solche Systeme die menschliche Verbindung schwächen und zu Isolation führen könnten, da Nutzer sich von der realen Welt und zwischenmenschlichen Beziehungen abkoppeln. Die Studie offenbart zudem eine deutliche Kluft zwischen der Selbstwahrnehmung der Jugendlichen und der Wahrnehmung ihrer Eltern: 64 Prozent der Teens geben an, KI-Chatsysteme zu nutzen, während nur 51 Prozent der Eltern dies zugeben. Während die Mehrheit der Eltern die Nutzung von KI zur Informationsbeschaffung (79 Prozent) und bei Schularbeiten (58 Prozent) akzeptiert, sind nur 28 Prozent mit lockeren Gesprächen und nur 18 Prozent mit emotionaler Unterstützung durch KI einverstanden – 58 Prozent lehnen solche Nutzung grundsätzlich ab. Die Sicherheit von KI-Systemen ist ein heikles Thema in der Technologiebranche. Character.AI reagierte auf öffentliche Kritik und rechtliche Schritte nach zwei Jugendlichen-Suiziden, die nach langen Gesprächen mit ihren Chatbots erfolgten, indem es den Zugang für Nutzer unter 18 Jahren sperren ließ. OpenAI hingegen stellte den besonders ermunternden GPT-4o-Modell ein, was bei Nutzern, die sich emotional an ihn gebunden hatten, heftige Kritik auslöste. Obwohl die Mehrheit der Teens KI in irgendeiner Form nutzt, sind ihre Einstellungen zu ihrer gesellschaftlichen Wirkung gemischt: 31 Prozent erwarten positive Entwicklungen in den nächsten 20 Jahren, 26 Prozent sehen eher negative Folgen. Die zunehmende emotionale Bindung an KI-Systeme wirft tiefgreifende Fragen zur digitalen Entwicklung, menschlichen Interaktion und der Verantwortung von Tech-Unternehmen auf. In der Branche wird zunehmend diskutiert, wie KI-Systeme sicherer gestaltet werden können – insbesondere für junge Nutzer. Experten fordern klare Grenzen, bessere Aufklärung und möglicherweise regulatorische Rahmenbedingungen, um die Risiken von emotionaler Abhängigkeit und sozialer Isolation zu minimieren. Unternehmen wie OpenAI und Character.AI stehen unter Druck, ethische Standards zu setzen, während Forscher wie Haber die Notwendigkeit einer tiefgreifenden Diskussion über die Rolle von KI in der menschlichen Psyche betonen.