Forschende der Johns Hopkins University in Zusammenarbeit mit der US-amerikanischen Arzneimittelbehörde FDA haben ein neuartiges Analysewerkzeug namens G-AUDIT entwickelt, um versteckte Verzerrungen in den Trainingsdaten medizinischer KI-Modelle aufzudecken. Die Ergebnisse wurden im Fachjournal npj Digital Medicine publiziert. G-AUDIT durchsucht große Datensätze systematisch nach subtilen Mustern und Metadaten, die dazu führen können, dass KI-Systeme falsche Schlussfolgerungen ziehen. Dieser Ansatz verschiebt den Prüfschwerpunkt von der nachgelagerten Modellbewertung auf die vorausgehende Datenanalyse. Bisherige Methoden konzentrieren sich primär auf das Output-Verhalten der Modelle, ähnlich dem Clever-Hans-Effekt, bei dem Algorithmen nicht die intendierten klinischen Merkmale erkennen, sondern unbeabsichtigte Nebenindikatoren wie Kameraqualität oder im Bild vorhandene Messlineale. G-AUDIT identifiziert und priorisiert genau diese riskanten Datenattribute, bevor das Training beginnt. In Testphasen mit medizinischen Bild-, Text- und Tabellenmodellen deckte das Tool bereits konkrete Schwachstellen in der Datenerfassung auf. Ein Beispiel aus der Dermatologie zeigte, wie ein Modell fälschlicherweise den Zusammenhang zwischen Kameraauflösung und Hautkrebs erlernte, da die Aufnahmen aus Hochrisiko-Kliniken oft mit anderen Geräten gemacht wurden. Solche verste Korrelationen führen in der Praxis zu unzuverlässigen Prognosen und können Versorgungsungleichheiten verstärken. Mathias Unberath, Senior-Autor an der Johns Hopkins University, betont, dass das Werkzeug Forschenden und Aufsichtsbehörden eine transparente Grundlage für die Sicherheitsbewertung klinischer KI bietet. Statt sich auf offensichtliche Fehlerquellen zu verlassen, ermögliche G-AUDIT eine datenzentrierte Prüfung früh im Entwicklungsprozess. Die Entwickler planen, das System kontinuierlich zu erweitern und auch auf nicht-medizinische Bereiche zu übertragen. Der Ansatz markiert einen Paradigmenwechsel in der KI-Auditing-Praxis: Die Qualitätssicherung beginnt nicht mehr mit dem fertigen Modell, sondern mit der kritischen Prüfung der zugrundeliegenden Datenstruktur. Dies stärkt die Grundlage für vertrauenswürdige, praxistaugliche KI-Systeme im Gesundheitswesen.