Forschende der Washington University in St. Louis haben ein neues KI-Framework für klinische Anwendungen vorgestellt, das Unsicherheitsabschätzungen von Sprachmodellen kalibriert. Das Framework trägt den Namen Clinical Uncertainty Risk Alignment (CURA) und wurde vom Doktoranden Sizhe Wang unter der Leitung von Chenyang Lu, Professor an der McKelvey School of Engineering sowie Direktor des AI for Health Institute, entwickelt. Die Forschungsergebnisse sind auf dem Preprint-Server arXiv veröffentlicht und werden auf der ACL 2026 vom 2. bis 7. Juli in San Diego präsentiert. Künstliche Intelligenz verspricht in der Medizin frühere Diagnosen und genauere Verlaufsvorhersagen. Bestehende Modelle neigen jedoch häufig zu systematischen Fehleranfälligkeiten und überschießender Sicherheit bei falschen Prognosen. Diese Überzuversicht gefährdet die Zusammenarbeit zwischen KI und klinischem Personal. Studien zeigen, dass eine naive Kombination aus KI-Empfehlungen und ärztlicher Expertise die Behandlungsergebnisse oft verschlechtern, da Ärztinnen und Ärzte fehlerhafte KI-Vorschläge übernehmen oder korrekte Vorhersagen ablehnen. CURA adressiert dieses Problem, indem es Sprachmodelle darauf trainiert, ihre eigene Zuverlässigkeit präziser einzuschätzen. Der algorithmische Ansatz nutzt Daten des MIMIC-IV-Datensatzes aus der Intensivmedizin, um drei vortrainierte klinische Sprachmodelle feinzutunen und anschließend Unsicherheitsgrade zu kalibrieren. Die Kernlogik von CURA besteht darin, die prognostizierte Unsicherheit direkt mit der tatsächlichen Fehlerwahrscheinlichkeit in Einklang zu bringen. Treten korrekte Vorhersagen auf, erhöht das System die Konfidenz. Bei schwierigen oder fehleranfälligen Fällen signalisiert das Modell höhere Unsicherheit. In fünf klinischen Risikoprediktionsaufgaben bewies CURA konsistent eine deutlich bessere Kalibrierung über alle getesteten Modellarchitekturen hinweg, ohne dabei die Fähigkeit zur Unterscheidung von Hochrisiko- und Niedrigrisikofällen zu beeinträchtigen. Ein zentrales Ergebnis der Evaluierung ist die Reduktion der klassischen Null-Unsicherheit bei ursprünglichen klinischen Sprachmodellen. Durch die Zuweisung höherer Unsicherheitswerte an mehrdeutige Hochrisiko-Fälle entsteht ein verlässlicheres System zur automatischen Vorauswahl. Prognosen mit niedriger Unsicherheit können sicher automatisiert abgearbeitet werden, während Fälle mit hoher Unsicherheit explizit zur ärztlichen Begutachtung freigegeben werden. Damit unterstützt CURA eine datenbasierte Entlastung des medizinischen Personals und minimiert das Risiko fehlerbasierter Entscheidungen. Das Forschungsteam plant die Erweiterung des Frameworks auf breitere Patientenkohorten sowie die Validierung im klinischen Alltag. Ziel ist der Nachweis, dass kalibrierte Unsicherheitsmodelle die Entscheidungsfindung in Gesundheitseinrichtungen nachhaltig sichern und die Symbiose aus menschlicher Expertise und maschineller Analyse effizienter gestalten. Die Publikation trägt die Kennung arXiv:2604.14651.