Forscher der Universität Queensland haben ein neues Rahmenwerk entwickelt, um die Verlässlichkeit künstlicher Intelligenz bei der Suche nach neuen Antibiotika zu überprüfen. Das Verfahren adressiert das drängende globale Problem der antimikrobiellen Resistenz, bei dem multiresistente Erreger die Behandlungsmöglichkeiten erheblich einschränken. Dr. Abdulmujeeb Onawole vom Center for Superbug Solutions des Instituts für Molekularbiologie der Universität Queensland betont, dass KI zwar die Wirkstoffentwicklung revolutioniere, Wissenschaftler jedoch häufig das Vertrauen in die KI-Empfehlungen fehle. Das sogenannte Black-Box-Problem führe dazu, dass Algorithmen zwar Ergebnisse lieferten, deren chemische Schlussfolgerungen aber nicht nachvollziehbar seien. In der Antibiotikaforschung könne dies zu fehlerhaften Entscheidungen und verschwundenen Laborressourcen führen. Um dieser Transparenzlücke zu begegnen, stellten die UQ-Forscher das Framework vor, das im Journal of Cheminformatics veröffentlicht wurde. Die Forscher trainierten drei unterschiedliche KI-Modelle mit Datensätzen chemischer Verbindungen, die zuvor gegen den Bakterienstamm Staphylococcus aureus getestet wurden. Das neue Rahmenwerk evaluiert, ob die KI-Systeme wichtige Wirkstoffstrukturen korrekt identifizieren und sogenannte Aktivitätskliffs interpretieren können. Dieser Begriff beschreibt Situationen, in denen minimale chemische Modifikationen die Wirksamkeit einer Verbindung drastisch verändern. Die Tests zeigten, dass alle drei Modelle bekannte Antibiotikastrukturen erkannten, sich jedoch deutlich in ihrer Fähigkeit unterschieden, die chemischen Ursachen für die Aktivität oder Inaktivität von Molekülen transparent zu begründen. Dr. Johannes Zuegg, ebenfalls am Center for Superbug Solutions tätig, unterstreicht die praktische Relevanz der Studie. Das Bewertungstool ermöglicht es medizinischen Chemikern, die Erklärbarkeit der KI-Berechnungen systematisch zu prüfen. Dies sei ein entscheidender Schritt, um KI-Verfahren sicherer und effizienter in die antibiotische Wirkstoffforschung zu integrieren. Langfristig soll das transparentere KI-Modell dazu beitragen, die Entdeckung neuer Wirkstoffklassen zu beschleunigen und der globalen Gesundheitskrise durch resistente Erreger wirksam entgegenzuwirken. Die Forschenden betonen, dass der Mensch in der Entwicklung weiterhin die entscheidende Kontrollinstanz bleiben muss, um fundierte Therapieentscheidungen treffen zu können.