Eine von der Universität Adelaide geleitete Übersichtsstudie hat erhebliche Lücken bei der frühen Prüfung von Künstlicher Intelligenz (KI) in der Medizin aufgedeckt, insbesondere im sogenannten „silent trial“ – einem Verfahren, bei dem KI-Systeme in klinischen Umgebungen getestet werden, ohne dass Patienten oder Ärzte wissen, dass eine solche Prüfung stattfindet. Die in Nature Health veröffentlichte globale Übersichtsstudie analysierte die Praxis dieser frühen Entwicklungsphase und stellte fest, dass die Durchführung von silent trials stark variiert: Unterschiede bestehen in der Art der Datensammlung, der Zielsetzung der Tests, den Kriterien zur Beurteilung der Wirksamkeit und der ethischen Überwachung. Einige Studien dokumentieren kaum oder gar keine Rückmeldungen von Ärzten, während andere die KI-Entscheidungen nicht systematisch mit den tatsächlichen klinischen Ergebnissen abgleichen. Zudem fehlen klare Richtlinien, wie Patientenrechte geschützt werden sollen, obwohl KI-Tools oft sensible Gesundheitsdaten verarbeiten. Die Studie zeigt, dass viele silent trials ohne ausreichende Transparenz und Kontrolle durchgeführt werden, was Risiken für Patientensicherheit und datenschutzrechtliche Verstöße birgt. Die Forschenden betonen, dass die frühe Testphase entscheidend für die Entwicklung zuverlässiger medizinischer KI ist, aber derzeit weitgehend unreguliert bleibt. Ohne einheitliche Standards besteht die Gefahr, dass fehlerhafte oder voreingenommene Algorithmen in die klinische Praxis eingeführt werden, ohne dass ihre Auswirkungen gründlich geprüft wurden. Die Autoren fordern daher dringend einheitliche Leitlinien für die Durchführung, Dokumentation und ethische Bewertung von silent trials, einschließlich der Einbindung von Ethikkomitees, der Informationspflicht gegenüber medizinischem Personal und der Verpflichtung zur transparenten Berichterstattung über Ergebnisse – auch wenn diese negativ ausfallen. Industrieexperten sehen die Studie als wichtigen Weckruf. „Die KI-Revolution in der Medizin kann nur verantwortbar voranschreiten, wenn wir die Tests vor der Markteinführung nicht nur technisch, sondern auch ethisch und transparent gestalten“, sagt Dr. Lena Müller, KI-Experte am Deutschen Zentrum für Neurodegenerative Erkrankungen. Unternehmen wie Siemens Healthineers oder Roche haben bereits interne Richtlinien für KI-Tests eingeführt, aber die Studie zeigt, dass diese nicht flächendeckend sind. Die Universität Adelaide betont, dass ihre Ergebnisse eine globale Diskussion über die Regulierung von medizinischer KI anstoßen sollen – besonders im Hinblick auf die EU-KI-Verordnung und ähnliche Initiativen in den USA und Asien. Die Zukunft der KI in der Gesundheitsversorgung hängt entscheidend davon ab, ob wir frühzeitig klare, nachvollziehbare und ethisch verantwortbare Standards etablieren.