KI-gestützte Protein-Faltungsvorhersagen benötigen zwingend menschliche Kontrolle und physikalische Verifikation Forschende der Rensselaer Polytechnic Institute haben in einer im Proceedings of the National Academy of Sciences veröffentlichten Studie nachgewiesen, dass aktuelle Künstliche-Intelligenz-Tools zur Vorhersage von Proteinstrukturen regelmäßig chemisch und physikalisch unmögliche Ergebnisse generieren. Die Untersuchungen decken wesentliche Schwachstellen in der aktuellen Anwendung von KI im wissenschaftlichen Alltag auf und unterstreichen die Notwendigkeit einer stringenten menschlichen Aufsicht sowie klassisch physikalisch-chemischer Verifikationsverfahren. Die Analyse zeigt, dass die Modelle trotz ihrer hohen Leistungsfähigkeit in der Mustererkennung strukturelle Anomalien produzieren, die im Labor nicht stabil bestehen könnten. Diese Diskrepanz zwischen algorithmischer Vorhersage und realer chemischer Machbarkeit offenbart kritische Blindstellen, die unbeaufsichtigt zu Fehlschlüssen in der Grundlagenforschung und Wirkstoffentwicklung führen könnten. Die Autorinnen und Autoren betonen, dass die beschleunigte Datenverarbeitung der KI nicht als Ersatz für etablierte naturwissenschaftliche Prüfverfahren dienen darf. Stattdessen sei eine hybride Arbeitsweise erforderlich, bei der algorithmische Entwürfe stets durch physikalische Modelle und experimentelle Validierung ergänzt werden. Die Veröffentlichung dient als klare Warnung an die wissenschaftliche Community. Während KI die Geschwindigkeit von Simulationen erheblich steigert, bleibt die Qualität der Ergebnisse davon abhängig, ob menschliche Expertise die plausibilitätsprüfende Funktion übernimmt. Besonders in Bereichen wie der Protein-Engineering und pharmazeutischen Forschung kann die unreflektierte Übernahme KI-generierter Strukturen zu ressourcenintensiven Fehlleitungen führen. Die Forscher fordern daher die Integration von Verifikationschecks in Standardpipelines, um die Zuverlässigkeit computergestützter Entdeckungen langfristig zu sichern. Insgesamt markiert die Arbeit einen wichtigen Meilenstein im Diskurs um vertrauenswürdige KI in den Naturwissenschaften. Sie liefert ein praktisches Beispiel dafür, wie Transparenz und kontrollierte Mensch-Maschine-Interaktion die Risiken autonomer Modelle minimieren können. Für Forschungseinrichtungen und Industrie bedeutet dies eine Anpassung der Arbeitsprozesse: KI bleibt ein leistungsstarker Katalysator, jedoch nur in Kombination mit rigoroser menschlicher und physikalischer Nachprüfung ein verlässliches Werkzeug.