RISE: Randomisierte Eingabestichproben für die Erklärung von Black-Box-Modellen

Tiefe neuronale Netze werden zunehmend zur Automatisierung von Datenanalyse und Entscheidungsfindung eingesetzt, doch ihr Entscheidungsprozess ist weitgehend unklar und schwer zu erklären, insbesondere für Endbenutzer. In dieser Arbeit adressieren wir das Problem der erklärbaren Künstlichen Intelligenz (Explainable AI) für tiefe neuronale Netze, die Bilder als Eingabe verarbeiten und eine Klassifikationswahrscheinlichkeit als Ausgabe liefern. Wir schlagen einen Ansatz namens RISE vor, der eine Wichtigkeitskarte generiert, die die Relevanz jedes Bildpunkts (Pixels) für die Vorhersage des Modells zeigt.Im Gegensatz zu white-box-Methoden, die die Wichtigkeit von Bildpunkten durch Gradienten oder andere interne Zustände des Netzwerks abschätzen, funktioniert RISE bei black-box-Modellen. Es schätzt die Wichtigkeit empirisch, indem es das Modell mit zufällig maskierten Versionen des Eingabebildes testet und die entsprechenden Ausgaben erhält. Wir vergleichen unseren Ansatz mit den neuesten Methoden zur Extraktion von Wichtigkeitsinformationen unter Verwendung sowohl eines automatischen Lösch-/Einfüge-Metriks als auch einer auf menschlich annotierten Objektsegmenten basierenden Zeigmetrik (pointing metric). Umfangreiche Experimente auf mehreren Benchmark-Datensätzen zeigen, dass unser Ansatz die Leistung anderer Methoden, einschließlich white-box-Methoden, erreicht oder übertrifft.Projektseite: http://cs-people.bu.edu/vpetsiuk/rise/