Social Media Safety und KI-Pflege: Kommunikation versagt
Zwei aktuelle Studien, die auf der 29. ACM-Konferenz für computerunterstützte kollaborative Arbeit und Sozialcomputing (CSCW 2026) vom 1. bis 14. Oktober in Salt Lake City vorgestellt werden, beleuchten kritische Kommunikationslücken im Umgang mit vulnerablen Nutzergruppen. Die Arbeiten wurden vom Socio-Technical Interaction Research Group des International Computer Science Institute unter der Leitung von Pamela Wisniewski erarbeitet und weisen auf ein grundlegendes Problem hin: die Diskrepanz zwischen dem versprochenen Schutz durch digitale Technologien und der tatsächlichen Nutzererfahrung. Die erste Untersuchung analysiert, wie große Plattformbetreiber wie Meta, TikTok, YouTube und Snapchat über jugendsichernde Maßnahmen berichten. Ausgewertet wurden mehr als 350 Pressemitteilungen und Sachberichte über fünf Jahre. Die Ergebnisse zeigen, dass Plattformen ihre Schutzfunktionen oft vage, regionenbezogen oder in der Testphase beschreiben, was eine Überprüfung der tatsächlichen Verfügbarkeit für Nutzer erschwert. Zudem werden Wirksamkeitsversprechen häufig ohne klare Messmethoden oder Vergleichswerte formuliert. Besonders problematisch ist, dass die Kommunikation sich stark auf das Nutzerverhalten und die elterliche Aufsicht konzentriert, während strukturelle Plattformdesigns, Datenverwertung und Geschäftsmodelle ausgeklammert werden. Dies verschiebt die Verantwortung für digitale Risiken effektiv von den Anbietern auf Kinder und deren Familien. Die Forschenden fordern transparente, überprüfbare Kommunikationsstandards als Grundlage für eine wirksame Regulierung. Eine zweite Studie untersucht die Rolle künstlicher Intelligenz in hochsensiblen Lebenssituationen, indem sie KI-Chatbots mit menschlichen Ansprechpartnern vergleicht. Basierend auf 85 realen Fragen von Angehörigen Demenzkranker wurden Antworten von Peer-Betreuern, Ärztinnen und Ärzten sowie den KI-Systemen ChatGPT und CareGPT analysiert. Während Chatbots in Formulierungen durch Höflichkeit und emotionale Unterstützung punkten und informativ ähnlich wie medizinisches Fachpersonal abschneiden, bleiben sie in ihrer Struktur stark formal und beratungsfixiert. Sie vermissen narrative Elemente, kontextuelle Einbettung und die Fähigkeit, breitere betreuungsrelevante Themen wie rechtliche, finanzielle oder emotionale Belastungen aufzugreifen. Unterschiede zwischen dem spezialiserten CareGPT und dem Basis-ChatGPT zeigten sich kaum, was auf die begrenzte Wirkung reiner Feinabstimmungen hinweist. Wisniewski warnt davor, oberflächlich unterstützende KI-Antworten mit echter betreuender Kompetenz gleichzusetzen. Je tiefer solche Systeme in die Gesundheitsversorgung integriert werden, desto größer sei das Risiko, dass Technologieanwendungen auf das Erscheinungsbild von Fürsorge statt auf die komplexe Realität der Nutzer zugeschnitten werden. Die Erkenntnisse unterstreichen den dringenden Bedarf an ethischen und regulatorischen Rahmenbedingungen für digitale Plattformen sowie KI-Systeme im sensiblen Kontext. Parallel dazu wird die Debatte über die neurokognitiven Auswirkungen digitaler Technologien auf Kinder weitergeführt: Im Rahmen eines öffentlichen Workshops der National Academies of Sciences, Engineering, and Medicine am 26. Oktober in Washington D.C. werden Expert:innen die Zusammenhänge zwischen Technologiekonsum und Gehirnentwicklung analysieren. Die beiden CSCW-Studien liefern bereits jetzt fundamentale Hinweise, dass Transparenz, kontextuelle Intelligenz und menschliche Begleitung unverzichtbare Säulen für eine vertrauenswürdige digitale Infrastruktur bleiben.
