KI-Begleiter schwächen soziale Kompetenzen bei Isolierten

Eine aktuelle Studie der Singapore Management University, der Duke-NUS Medical School und der Nanyang Technological University verschiebt die Debatte über KI-Kompanions weg von einer pauschalen Nutzen-Schaden-Abwägung hin zu einer Analyse ungleicher gesellschaftlicher Auswirkungen. Die in Nature Human Behaviour veröffentlichte Forschung unter der Leitung von Zhang Qiyang, Zhang Renwen und Liu Nan identifiziert das Potenzial dieser Technologien, bestehende soziale Ungleichheiten zu verstärken. Die Forscher stellen fest, dass KI-Kompanions in Abhängigkeit von der sozialen Infrastruktur der Nutzer unterschiedlich wirken. Bei Personen mit stabilen Netzwerken fungieren die Systeme primär als ergänzende Werkzeuge zur Stressbewältigung. Isolieren Nutzer dagegen auf menschliche Verbindungen, droht ein Phänomen, das die Autoren als sozialen Abbau bezeichnen. Die kontinuierliche Substitution authentischer Interaktionen kann langfristig kommunikative Fähigkeiten erodieren. Um diese systemischen Risiken zu erklären, adaptiert die Studie das Swiss-Cheese-Modell aus der Sicherheitsforschung. Demnach entstehen Schäden erst, wenn mehrere Schutzmechanismen gleichzeitig versagen: unzureichende digitale Kompetenz, schwache soziale Netze, manipulative Plattformdesigns und lückenhafte Aufsicht. Als kritischster Schwachpunkt wird die aktuelle Regulierungslücke ausgemacht. Da KI-Kompanions in den meisten Rechtsräumen weiterhin als reine Consumer-Anwendungen klassifiziert werden, fehlen verbindliche Standards für den psychosozialen Schutz. Die Autoren fordern daher die Neuordnung als Technologie mit Gesundheitsimplikationen. Dazu gehören altersgerechte Designvorgaben, transparente Kennzeichnung als KI-Systeme, strenge Datenschutzrichtlinien sowie verpflichtende Krisenprotokolle bei der Offenlegung von Risikoverhalten. Singapur wird in der Untersuchung als exemplarischer Schauplatz hervorgehoben. Trotz fortschrittlicher Infrastruktur und starker regulatorischer Kapazitäten begünstigen eine alternde Gesellschaft, hohe Smartphone-Durchdringung und steigende Einsamkeitsraten die rasante Verbreitung. Besonders gefährdete Gruppen könnten unvorbereitet den kommerziellen Anreizen der Anbieter ausgeliefert sein. Zur Eindämmung der Risiken propagiert das Forschungsteam einen mehrschichtigen Governance-Ansatz. Dieser kombiniert spezifische Regularien mit Initiativen zur Förderung der KI-Compliance, ethischen Produktentwicklung und der Stärkung realer Gemeinschaftsstrukturen. Nur durch ein koordiniertes Zusammenspiel ließe sich sicherstellen, dass KI-Kompanions menschliche Beziehungen bereichern, ohne soziale Spaltungen zu vertiefen. Die Autoren betonen, dass die künftige gesellschaftliche Integration dieser Technologien weniger von den technischen Spezifikationen als vielmehr von den getroffenen design- und aufsichtsrechtlichen Entscheidungen abhängt.