Forschung zeigt unzureichendes Bias-Reporting in Medizin-KI

Eine aktuelle Übersichtsstudie deckt gravierende Mängel in der Dokumentation zu algorithmischer Voreingenommenheit bei kommerziellen KI-Produkten im medizinischen Bereich auf. Forschende um Dr. Shannon L. Walston an der Graduiertenschule für Medizin der Osaka Metropolitan University analysierten die Validierungsliteratur radiologischer KI-Systeme und kartierten die Darstellung demografischer Subgruppen. Die Auswertung umfasste 545 Studien zu 252 verschiedenen Produkten. Lediglich 77 dieser Arbeiten, die sich auf 52 Produkte bezogen, enthielten Angaben zu Geschlecht, Alter oder ethnischer Zugehörigkeit sowie detaillierte Leistungsvergleiche. Bei der Überprüfung von KI-Modellen zur Tuberkulose-Diagnostik zeigte sich zudem, dass 67 Prozent der veröffentlichten Datensätze für geschlechtsspezifische Analysen statistisch nicht ausreichend ausgelegt waren. Trotz wachsender Forderungen nach transparenterer Berichterstattung bleibt die Leistungsmeldung für spezifische Patientengruppen eine Seltenheit. Die Ergebnisse wurden im Fachjournal European Radiology veröffentlicht. Die Forscher warnen, dass unzureichende Validierungsdaten das Risiko systematischer Verzerrungen in der klinischen Praxis erhöhen und sich direkt auf Behandlungsergebnisse auswirken können. Walston weist darauf hin, dass die aktuelle Fragmentierung des Validierungsmarktes ein strukturelles Versäumnis darstelle, das nur durch koordinierte Maßnahmen der gesamten Branche gelöst werden könne. Es bedürfe verbindlicher Berichtsstandards, einer strengeren regulatorischen Begleitung und einer konsequenten Transparenz seitens der Hersteller, um das Vertrauen von medizinischem Fachpersonal sowie Patientinnen und Patienten in KI-gestützte Diagnoseverfahren nachhaltig zu sichern. Die Studie unterstreicht die Dringlichkeit, algorithmische Fairness als festen Bestandteil von Entwicklungs- und Zulassungsprozessen zu verankern, bevor die Technologien flächendeckend in klinische Arbeitsabläufe integriert werden.