Forschende um Knolle et al. haben in einer im Juni 2026 publizierten Studie auf Nature über ein kritisches Sicherheitsrisiko im Bereich der medizinischen Künstlichen Intelligenz berichtet. Die Untersuchung belegt, dass Trainingdaten vulnerabler KI-Modelle sensible Patientendaten preisgeben können. Durch gezielte Analyse und spezifische Abfragen lassen sich Rückschlüsse auf nicht anonymisierte medizinische Aufzeichnungen ziehen, was die Privatsphäre erheblich gefährdet. Das Problem resultiert aus der Art und Weise, wie moderne Algorithmen lernen. Während des Trainings speichern die Modelle statistische Muster, die oft direkte Verknüpfungen zu den ursprünglichen Datensätzen bewahren. Bei medizinischen Anwendungen ermöglicht diese Eigenschaft Angreifern, durch Reverse Engineering private Krankengeschichten zu rekonstruieren. Die Forscher betonen, dass aktuelle Datenschutztechnologien wie Differential Privacy oder Standardanonymisierung nicht ausreichen, um das Risiko vollständig zu eliminieren, da die Komplexität der neuronalen Netze unbeabsichtigte Informationsspeicherung begünstigt. Die Erkenntnisse haben unmittelbare Konsequenzen für die Gesundheitsbranche und die KI-Entwicklung. Kliniken, Forschungsinstitute und Technologieanbieter stehen vor der Herausforderung, ihre Modelle auf sicherere Architekturen umzustellen oder erweiterte Sicherheitsprotokolle zu implementieren. Ohne transparente Datenschutzstandards und regulatorische Vorgaben droht ein Vertrauensverlust in KI-gestützte Diagnosesysteme. Gleichzeitig warnt die Studie davor, dass synthetisch generierte Trainingsdaten zwar ethische Prüfungsverfahren umgehen können, aber keine automatische Sicherheit garantieren, solange die zugrundeliegenden Modelle nicht auf spezifische Informationslecks geprüft werden. Die Forschung unterstreicht die Notwendigkeit eines Paradigmenwechsels in der KI-Entwicklung: Datenschutz muss von Beginn an in die Modellarchitektur integriert werden, anstatt nachträglich implementiert zu werden. Experten fordern daher einheitliche internationale Standards für die unabhängige Überprüfung medizinischer KI auf datenschutzrelevante Schwachstellen, bevor diese in klinische Arbeitsabläufe integriert werden.