Verstehen von Abhängigkeiten: Effiziente Black-Box-Erklärungen unter Verwendung des Abhängigkeitsmaßes

Dieses Papier stellt eine neue, effiziente Black-Box-Attributierungsmethode vor, die auf dem Hilbert-Schmidt-Independence-Criterion (HSIC) basiert, einem Abhängigkeitsmaß, das auf Reproducing-Kernel-Hilbert-Räumen (RKHS) aufbaut. HSIC misst die Abhängigkeit zwischen Bereichen eines Eingabebildes und der Ausgabe eines Modells basierend auf Kernels Einbettungen von Verteilungen. Es liefert daher Erklärungen, die durch die Darstellungsfähigkeiten des RKHS bereichert werden. HSIC kann sehr effizient geschätzt werden, was den Rechenaufwand im Vergleich zu anderen Black-Box-Attributierungsmethoden erheblich reduziert. Unsere Experimente zeigen, dass HSIC bis zu 8-mal schneller als die bisher beste Black-Box-Attributierungsmethode ist, während es gleichzeitig so treu bleibt. Tatsächlich verbessern oder erreichen wir den Stand der Technik sowohl für Black-Box- als auch für White-Box-Attributierungsmethoden in Bezug auf mehrere Treue-Metriken auf Imagenet mit verschiedenen aktuellen Modellarchitekturen. Von Bedeutung ist, dass wir zeigen können, dass diese Fortschritte effizient und treu zur Erklärung von Objekterkennungsmodellen wie YOLOv4 übertragen werden können. Schließlich erweitern wir traditionelle Attributierungsmethoden durch den Vorschlag eines neuen Kernels, der eine ANOVA-artige orthogonale Zerlegung von Wichtigkeitsbewertungen basierend auf HSIC ermöglicht. Dies ermöglicht es uns nicht nur, die Wichtigkeit jedes Bildausschnitts zu bewerten, sondern auch die Wichtigkeit ihrer paarweisen Interaktionen. Unsere Implementierung ist unter https://github.com/paulnovello/HSIC-Attribution-Method verfügbar.