Forscher der Universität Manchester haben eine systematische Methode entwickelt, um zu prüfen, ob Künstliche Intelligenz (KI) logisch in der biomedizinischen Forschung denken kann. Dieser Ansatz zielt darauf ab, die Zuverlässigkeit und Sicherheit von KI-Anwendungen in der Gesundheitsforschung und -versorgung zu erhöhen. Bisher war es schwierig, die kognitiven Fähigkeiten von KI-Systemen in komplexen medizinischen Kontexten zu bewerten, da viele Modelle auf Mustererkennung basieren, ohne nachvollziehbare logische Schlussfolgerungen zu ziehen. Die neue Methode adressiert diese Lücke, indem sie KI-Modelle anhand standardisierter logischer Aufgaben prüft, die typische Denkprozesse in der biomedizinischen Forschung abbilden – etwa die Ableitung von Hypothesen aus klinischen Daten, die Identifizierung kausaler Zusammenhänge oder die Bewertung von experimentellen Ergebnissen. Die Forscher entwickelten eine Reihe von Testfällen, die verschiedene Stufen der logischen Schlussfolgerung abdecken, von einfachen deduktiven Schlüssen bis hin zu komplexen inferenziellen Aufgaben, die mehrere Schritte erfordern. Diese Tests wurden an verschiedenen KI-Modellen, darunter große Sprachmodelle und spezialisierte medizinische KI-Systeme, durchgeführt. Die Ergebnisse zeigten, dass viele gängige KI-Modelle zwar gute Leistungen bei der Datenanalyse erbringen, aber bei komplexen logischen Aufgaben oft versagen oder fehlerhafte Schlussfolgerungen ziehen. Insbesondere bei fehlenden oder unvollständigen Daten zeigten die Systeme erhebliche Schwächen, was potenziell gefährliche Folgen in klinischen Anwendungen haben könnte. Die neue Methode ermöglicht es, KI-Systeme nicht nur auf ihre Genauigkeit, sondern auch auf ihre kognitive Robustheit zu testen. Dies ist entscheidend, um vertrauenswürdige KI-Systeme in der medizinischen Diagnostik, Arzneimittelentwicklung und personalisierten Medizin einzusetzen. Die Forscher betonen, dass logische Konsistenz und nachvollziehbarer Denkprozess genauso wichtig sind wie präzise Vorhersagen. Die Methode soll künftig in der Entwicklung, Zulassung und Überwachung von KI in der Gesundheitsversorgung eingesetzt werden, um sicherzustellen, dass KI nicht nur „scheint“ zu denken, sondern tatsächlich logisch und verantwortungsvoll arbeitet. Industrieexperten begrüßen die Entwicklung als Meilenstein für die verantwortungsvolle KI-Nutzung in der Medizin. Experten der European Medicines Agency (EMA) und des UK’s National Health Service (NHS) betonen, dass solche Testverfahren notwendig seien, um KI-Systeme vor der klinischen Einführung gründlich zu validieren. Unternehmen wie DeepMind und Roche haben bereits Interesse an der Methode bekundet, um ihre eigenen KI-Modelle zu überprüfen. Die Manchester-Gruppe plant, die Testmethode in einer offenen Plattform zur Verfügung zu stellen, um die Standardisierung in der KI-Validierung zu fördern. Die Forschung unterstreicht, dass KI in der Medizin nicht nur leistungsfähig, sondern auch verständlich und vertrauenswürdig sein muss – ein entscheidender Schritt hin zu einer sicheren und ethisch verantwortbaren KI-Transformation in der Gesundheitsforschung.