HyperAIHyperAI

Command Palette

Search for a command to run...

Comprendre la dépendance : Explications efficaces de boîtes noires à l'aide d'une mesure de dépendance

Paul Novello Thomas Fel David Vigouroux

Résumé

Ce document présente une nouvelle méthode d'attribution efficace en boîte noire basée sur le Critère d'Indépendance de Hilbert-Schmidt (HSIC), une mesure de dépendance fondée sur les Espaces de Hilbert à Noyau Reproduisant (RKHS). L'HSIC évalue la dépendance entre des régions d'une image d'entrée et la sortie d'un modèle grâce aux plongements à noyau des distributions. Il fournit ainsi des explications enrichies par les capacités de représentation des RKHS. L'estimation de l'HSIC peut être réalisée très efficacement, réduisant considérablement le coût computationnel par rapport à d'autres méthodes d'attribution en boîte noire. Nos expériences montrent que l'HSIC est jusqu'à 8 fois plus rapide que les meilleures méthodes précédentes en matière d'attribution en boîte noire tout en étant aussi fidèle. En effet, nous améliorons ou égalisons l'état de l'art des méthodes d'attribution en boîte noire et en boîte blanche pour plusieurs métriques de fidélité sur Imagenet avec diverses architectures de modèles récentes. De manière importante, nous montrons que ces avancées peuvent être transposées pour expliquer efficacement et fidèlement des modèles de détection d'objets tels que YOLOv4. Enfin, nous étendons les méthodes traditionnelles d'attribution en proposant un nouveau noyau permettant une décomposition orthogonale similaire à celle de l'ANOVA des scores d'importance basés sur l'HSIC, ce qui nous permet non seulement d'évaluer l'importance de chaque patch d'image, mais également l'importance de leurs interactions paires. Notre implémentation est disponible à l'adresse suivante : https://github.com/paulnovello/HSIC-Attribution-Method.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Comprendre la dépendance : Explications efficaces de boîtes noires à l'aide d'une mesure de dépendance | Articles | HyperAI