Künstliche Intelligenz zur Unterstützung klinischer Entscheidungen ist in den USA allgegenwärtig, operiert jedoch weitgehend außerhalb der behördlichen Aufsicht. Ein aktueller Kommentar im Fachjournal The Lancet Digital Health, verfasst von Forschern des MIT CSAIL und des Jameel Clinic, warnt vor den Risiken dieser regulatorischen Lücke. Schätzungen zufolge nutzen rund zwei Drittel der US-Krankenhäuser KI-gestützte Systeme, die direkt in elektronische Patientenakten integriert sind. Diese Tools steuern etwa die Sepsis-Prävention oder die Einschätzung von Krebsrisiken, sind aber häufig nicht von der US-Arzneibehörde FDA geprüft worden. Der regulatorische Rahmen hat sich seit 2016 mehrfach gewandelt. Der 21st Century Cures Act hob bestimmte klinische Entscheidungssoftware aus der Medizinprodukteverordnung aus, sofern Transparenz und klinische Autonomie gewahrt blieben. Während die FDA ihre Leitlinien 2019 noch großzügig auslegte, verschärfte sie 2022 ihre Position, ohne die bereits flächendeckend implementierten Systeme nachträglich zu überprüfen. Eine Aktualisierung im Januar 2026 lockerte die Aufsicht weiter, indem sie die Durchsetzung bei reinen Empfehlungstools aussetzte und die Definition regulierter Geräte erweiterte. Kritiker bemängeln, dass dadurch genau jene Systeme weniger Kontrolle unterliegen, die besonders riskante Vorhersagemodelle enthalten. Die Forschungslücke zeigt sich an konkreten Beispielen: Das weit verbreitete Epic Sepsis Model oder das Tyrer-Cuzick-Modell zur Brustkrebsrisikobewertung fehlen die FDA-Zulassung. Studien deuten zudem auf ungleiche Vorhersagegenauigkeit und unterbewertete Risiken für Minderheiten hin. Trotzdem werden diese Algorithmen in nationale Leitlinien und Versicherungsentscheidungen einbezogen. Für Hersteller, die ihre Tools kommerziell vertreiben, gelten hingegen strenge Vorabprüfungen. Dieses Gefälle belaste Patienten und Ärzte mit unkalkulierbaren Risiken. Die Autoren um Regina Barzilay, Maëlle-Marie Corso und Paul Kim fordern keinen kompletten Regulierungswall, da dieser Innovationsprozesse behindern und Behörden überfordern würde. Stattdessen schlagen sie einen pragmatischen Dreischritt vor: Erstens ein öffentliches Register zur Offenlegung eingesetzter KI-Tools und ihrer Validierungsmethoden. Zweitens ein strukturierter, nicht bindender Dialog zwischen FDA, Entwicklern und Klinikern, um Unsicherheiten frühzeitig abzubauen. Drittens eine Anpassung der behördlichen Leitlinien, um rechtliche Grauzonen zu schließen und risikobasierte Kontrollen zu ermöglichen. Das Ziel ist eine transparente, verantwortungsvolle Integration von KI in die Patientenversorgung. Nur durch systematische Offenlegung und kontinuierlichen Austausch zwischen Industrie und Aufsichtsbehörden könne sichergestellt werden, dass algorithmische Entscheidungen nicht nur effizient, sondern auch sicher und fair für alle Bevölkerungsgruppen sind. Die Entwicklung zeigt, dass regulatorische Rahmenwerke technologischen Veränderungen zügig folgen müssen, um Patientenschutz und Innovation im Gleichgewicht zu halten.