Einzelzell-Atlasse verzerren globale Daten für KI
Eine aktuelle Studie, veröffentlicht am 20. Juli im Fachjournal Cell Genomics, warnt vor gravierenden demografischen Verzerrungen in zellulären Referenzdatenbanken, die zunehmend als Trainingsgrundlage für KI-Modelle in der Biomedizin dienen. Forschende der Icahn School of Medicine am Mount Sinai haben systematisch untersucht, inwieweit diese Atlas-Netzwerke die globale Bevölkerung repräsentieren. Die Analyse umfasst über 13.500 Proben aus drei führenden Initiativen: dem Human Cell Atlas, dem Human Tumor Atlas Network und dem PsychAD-Konsortium. Dabei zeigte sich ein konsistentes Muster: Personen europäischer Abstammung sind mit einem Faktor von etwa sechs gegenüber dem weltweiten Durchschnitt überrepräsentiert, während asiatische, afroamerikanische und latinoamerikanische Bevölkerungsgruppen signifikant unterrepräsentiert sind. Besonders auffällig ist der Mangel an demografischen Metadaten: Fast 70 Prozent der Proben im Human Cell Atlas besitzen keine dokumentierte Abstammungsinformation. Selbst unter konservativen Annahmen lässt sich diese europäische Dominanz nicht durch fehlende Datensätze erklären. Ähnliche Ungleichgewichte finden sich bei Tumordaten mit rund 69 Prozent Europäern und bei Gehirnerkrankungs-Datasets mit knapp zwei Dritteln Europäern. Zudem weichen die Geschlechterverteilungen bei verschiedenen Krebsarten teils stark von der tatsächlichen Inzidenz ab. Senior Autor Dr. Kuan-lin Huang betont, dass solche Atlas-Systeme zunehmend als universelle Referenzkarten der menschlichen Biologie fungieren und KI-Modelle trainieren, die künftige Diagnose- und Behandlungspfade prägen werden. Übertragbare Verzerrungen in diesen Trainingsdaten riskieren, dass medizinische Fortschritte, Biomarker und KI-gestützte Werkzeuge nicht für alle Bevölkerungsgruppen gleichermaßen zuverlässig sind. Das Problem korrespondiert mit bekannten Schwachstellen in der humanen Genomik, wo Risikoscores, die primär auf europäischen Daten basieren, bei anderen ethnischen Gruppen oft versagen. Um derartigen Bias entgegenzuwirken, stellen die Forschenden einen konkreten Prüfkatalog für künftige Studien bereit. Dieser deckt Rekrutierungsstrategien, die lückenlose Erfassung demografischer Daten, die ausgewogene Probenzusammensetzung sowie die verpflichtende Berichterstattung über die Leistungsunterschiede von KI-Modellen in verschiedenen Bevölkerungsgruppen ab. Das Audit, initiiert von Co-Erstautorinnen und Co-Autoren von der University of Oxford, der UNC Charlotte und der Saint Louis University, stützt sich auf öffentlich zugängliche Metadaten und erkennt an, dass breite Abstammungskategorien die komplexe menschliche Identität nur bedingt abbilden. Als eine der ersten systematischen Bestandsaufnahmen dieser Art unterstreicht die Studie, dass wissenschaftliche Repräsentanz genauso wichtig ist wie die bloße Datengröße. Nur durch integrative Erhebungen und transparente Berichterstattung können die Referenzdatenbanken dem Anspruch einer wirklich inklusiven Präzisionsmedizin gerecht werden. Das Forschungsteam plant, diese Audit-Methode auf weitere Datensätze auszuweiten und die Entwicklung der Repräsentanz sowie die KI-Modellperformance über die Zeit zu tracken.
