Experten der Flinders University warnen davor, dass die rasante Entwicklung künstlicher Intelligenz (KI) im Gesundheitswesen schneller voranschreitet als die notwendigen Sicherheitsprüfungen. In einem Kommentar, der in der Fachzeitschrift Science veröffentlicht wurde, betonen die Forscher, dass beeindruckende Leistungen in kontrollierten Studien nicht automatisch die Eignung für den routinemäßigen Einsatz in Kliniken oder Krankenhäusern bedeuten. Die Studienautoren, darunter Erik Cornelisse und Assoziierter Professor Ash Hopkins, stellen fest, dass neue KI-Systeme zwar beeindruckende Fähigkeiten demonstrieren, insbesondere im Bereich des diagnostischen Schließens. Fortgeschrittene Systeme können diagnostische Szenarien schrittweise durchgehen und erreichen dabei teilweise die Leistungsfähigkeit erfahrener Ärzte. Dieser Fortschritt markiert einen Wandel von einfachen Frage-Antwort-Tools hin zu Algorithmen, die Textaufgaben mit einer menschlichen klinischen Denkweise lösen können. Dennoch weisen die Experten darauf hin, dass die reale medizinische Praxis weit mehr umfasst als rein textbasierte Logik oder Testergebnisse. Die medizinische Versorgung hängt von körperlichen Untersuchungen, dem Zuhören bei Patienten, dem Verständnis des medizinischen und sozialen Kontexts sowie der Übernahme von Verantwortung für Ergebnisse ab. Elemente, die aktuelle KI-Systeme allein nicht sicher bereitstellen können. Genauigkeit in isolierten Fällen allein mache ein System daher noch nicht für Patienten sicher. Die Autoren fordern eine dringende Notwendigkeit, zu verstehen, wie neuartige KI-Tools sicher in den klinischen Alltag integriert werden können, wobei das Patientenwohl im Mittelpunkt stehen muss. Die Geschichte zeige, dass Algorithmen ohne ausreichende Sicherheitsvorkehrungen die Ergebnisse verschlechtern und Probleme verstärken können, insbesondere wenn sie auf unvollständigen oder nicht repräsentativen Daten basieren. Zu den bekannten Risiken gehören Voreingenommenheit, ungleiche Versorgung und unbeabsichtigter Patientenschaden. Assoziierter Professor Hopkins betont, dass moderne Gesundheitsversorgung auf Urteilskraft, Verantwortlichkeit und ethischer Aufsicht beruht. Es sei eine kritische Notwendigkeit, dass verschiedene Interessengruppen Rahmenbedingungen für rechtliche, berufliche und moralische Verantwortung entwickeln. KI müsse mit Sorgfalt und unter strenger Aufsicht eingeführt werden, vergleichbar mit der Überwachung und Bewertung menschlicher Ärzte. Die Forscher argumentieren, dass der Enthusiasmus für medizinische KI durch starke Governance und klarere Bewertungsstandards ausgeglichen werden muss. Der wahre Erfolg sollte nicht an Benchmark-Werten oder Demonstrationsleistungen gemessen werden, sondern an der Verbesserung der Ergebnisse für echte Patienten. Mit sorgfältigem Design, starker Aufsicht und rigoroser Evaluierung hat das Potenzial, ein mächtiges Werkzeug für sicherere, faire und effektivere Versorgungssysteme weltweit zu werden. Patienten verdienen Technologien, die die Versorgung in der Praxis tatsächlich verbessern, nicht Systeme, die lediglich in Studien beeindruckend wirken.