Erklärbare Modelle

Erklärbare Modelle beziehen sich auf künstliche Intelligenz-Modelle, die Transparenz und Erklärbarkeit in ihren Entscheidungsprozessen bieten. Diese Modelle sind so konzipiert, dass die Vorhersageergebnisse von Maschinenlernalgorithmen nicht nur genau, sondern auch logisch klar sind, wodurch sie für Menschen leicht verständlich und überprüfbar werden. Im Bereich der Computer Vision steigern erklärbare Modelle die Glaubwürdigkeit und Zuverlässigkeit von Systemen, indem sie die zugrunde liegenden Mechanismen der Bilderkennung und -verarbeitung offenlegen. Sie haben daher in hohen Risikoszenarien wie medizinischer Diagnose und autonomen Fahrzeugen eine große Bedeutung.