KI ersetzt keine menschliche Peer-Beratung

Eine kürzlich in der Fachzeitschrift Psychiatric Services veröffentlichte Policy-Studie warnt vor den Risiken eines übermäßigen Einsatzes künstlicher Intelligenz in der peer gestützten Verhaltensgesundheit. Die Autorinnen Margaret Swarbrick von der Rutgers University und Nev Jones von der University of Pittsburgh betonen, dass KI zwar das Potenzial hat, den Zugang zu Versorgungsleistungen zu verbessern und administrative Belastungen zu verringern, jedoch ohne sorgfältige Implementierung die relationalen Qualitäten, die Privatsphäre und die ethischen Grundsätze der Peergestützung untergraben könnte. In der Praxis wird KI häufig durch Chatbots und digitale Werkzeuge genutzt, um Klienten bei der Ressourcenbeschaffung oder der Entwicklung von Schulungsmaterialien zu unterstützen. Parallel dazu entstehen zunehmend autonome KI-Agenten, die menschliche Peers imitieren, wie etwa ein in Südkorea evaluiertes System zur Behandlung von Essstörungen. Die Forscherinnen heben hervor, dass diese Tools weder über authentische Leidenserfahrung noch über Empathie oder ethische Abwägungskompetenz verfügen. Eine strikte Unterscheidung zwischen KI-unterstützter, aber fachlich begleiteter Peergestützung und vollständig automatisierten Angeboten sei essenziell. Zu den konkreten Gefahren zählen Datenschutzverletzungen, KI-Halluzinationen, algorithmische Verzerrungen sowie die Erosion der zwischenmenschlichen Nähe, die den Erfolg peer basierter Ansätze ausmacht. Zwar dienen Fachpersonen als Filter, doch verbleiben Risiken durch fehlerhafte Empfehlungen und technisch bedingte Fehlinformationen. Die kritische Auseinandersetzung mit dem Thema geht über den Gesundheitssektor hinaus und betrifft同样 Beratung, Bildung und klinische Felder, in denen Automatisierungstools menschliche Expertise zu verdrängen drohen. Als Gegenmaßnahmen empfehlen die Autorinnen die Verankerung ethischer Kompetenzen in der KI-Ausbildung, die Etablierung klarer Organisationsrichtlinien zur Begrenzung des KI-Einsatzes sowie definierte Eskalationswege für Krisenfälle. Zudem müsse der Fokus auf der Bewahrung peer typischer Werte wie Gegenseitigkeit und Selbstwirksamkeit liegen. Die menschliche Komponente lasse sich weder programmieren noch skalieren, sondern bleibe der alleinige Wirkfaktor. Die Studie fordert daher den Aufbau regulatorischer Rahmenwerke und einen fortlaufenden Austausch der Praxisverantwortlichen, um KI sicher zu integrieren, ohne die Qualität und Vertrauensbasis psychosozialer Versorgungsleistungen zu riskieren.