Comprendre la dépendance : Explications efficaces de boîtes noires à l'aide d'une mesure de dépendance

Ce document présente une nouvelle méthode d'attribution efficace en boîte noire basée sur le Critère d'Indépendance de Hilbert-Schmidt (HSIC), une mesure de dépendance fondée sur les Espaces de Hilbert à Noyau Reproduisant (RKHS). L'HSIC évalue la dépendance entre des régions d'une image d'entrée et la sortie d'un modèle grâce aux plongements à noyau des distributions. Il fournit ainsi des explications enrichies par les capacités de représentation des RKHS. L'estimation de l'HSIC peut être réalisée très efficacement, réduisant considérablement le coût computationnel par rapport à d'autres méthodes d'attribution en boîte noire. Nos expériences montrent que l'HSIC est jusqu'à 8 fois plus rapide que les meilleures méthodes précédentes en matière d'attribution en boîte noire tout en étant aussi fidèle. En effet, nous améliorons ou égalisons l'état de l'art des méthodes d'attribution en boîte noire et en boîte blanche pour plusieurs métriques de fidélité sur Imagenet avec diverses architectures de modèles récentes. De manière importante, nous montrons que ces avancées peuvent être transposées pour expliquer efficacement et fidèlement des modèles de détection d'objets tels que YOLOv4. Enfin, nous étendons les méthodes traditionnelles d'attribution en proposant un nouveau noyau permettant une décomposition orthogonale similaire à celle de l'ANOVA des scores d'importance basés sur l'HSIC, ce qui nous permet non seulement d'évaluer l'importance de chaque patch d'image, mais également l'importance de leurs interactions paires. Notre implémentation est disponible à l'adresse suivante : https://github.com/paulnovello/HSIC-Attribution-Method.