HyperAIHyperAI

Command Palette

Search for a command to run...

Kausale Erklärung von Convolutional Neural Networks

Hichem Debbi

Zusammenfassung

In diesem Paper stellen wir eine Erklärungstechnik für Convolutional Neural Networks (CNNs) vor, die auf der Kausalitätstheorie von Halpern und Pearl [12] basiert. Die kausale Erklärungstechnik (CexCNN) beruht auf der Messung der Filterbedeutung für eine CNN-Entscheidung, wobei diese mittels kontrafaktischer Schlussfolgerung ermittelt wird. Zudem nutzen wir erweiterte Kausalitätsbegriffe, nämlich Verantwortlichkeit und Schuld, um die Bedeutung dieser Filter zu gewichten und ihren Beitrag auf die Eingabebilder zu projizieren. Da CNNs eine hierarchische Struktur aufweisen und kausale Modelle hierarchisch abstrahiert werden können, nutzen wir diese Ähnlichkeit, um den zentralen Beitrag dieses Papers zu leisten: die Lokalisierung derjenigen Merkmale in der Eingabebilder, die den größten Einfluss auf die CNN-Entscheidung ausgeübt haben. Neben ihrer Fähigkeit zur Lokalisierung zeigen wir außerdem, dass CexCNN zur Modellkompression durch das Auslassen weniger wichtiger Filter (Pruning) genutzt werden kann. Wir haben CexCNN an mehreren CNN-Architekturen und Datensätzen getestet. (Der Code ist unter https://github.com/HichemDebbi/CexCNN verfügbar)


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp