Kausale Erklärung von Convolutional Neural Networks

In diesem Paper stellen wir eine Erklärungstechnik für Convolutional Neural Networks (CNNs) vor, die auf der Kausalitätstheorie von Halpern und Pearl [12] basiert. Die kausale Erklärungstechnik (CexCNN) beruht auf der Messung der Filterbedeutung für eine CNN-Entscheidung, wobei diese mittels kontrafaktischer Schlussfolgerung ermittelt wird. Zudem nutzen wir erweiterte Kausalitätsbegriffe, nämlich Verantwortlichkeit und Schuld, um die Bedeutung dieser Filter zu gewichten und ihren Beitrag auf die Eingabebilder zu projizieren. Da CNNs eine hierarchische Struktur aufweisen und kausale Modelle hierarchisch abstrahiert werden können, nutzen wir diese Ähnlichkeit, um den zentralen Beitrag dieses Papers zu leisten: die Lokalisierung derjenigen Merkmale in der Eingabebilder, die den größten Einfluss auf die CNN-Entscheidung ausgeübt haben. Neben ihrer Fähigkeit zur Lokalisierung zeigen wir außerdem, dass CexCNN zur Modellkompression durch das Auslassen weniger wichtiger Filter (Pruning) genutzt werden kann. Wir haben CexCNN an mehreren CNN-Architekturen und Datensätzen getestet. (Der Code ist unter https://github.com/HichemDebbi/CexCNN verfügbar)