Less is More: Weniger interpretierbare Regionen durch submodulare Teilmengeauswahl

Bildattributionsalgorithmen zielen darauf ab, wichtige Bereiche zu identifizieren, die für Modellentscheidungen von hoher Relevanz sind. Obwohl existierende Attributionslösungen effektiv die Bedeutung von Zielobjekten zuordnen können, stehen sie den folgenden Herausforderungen gegenüber: 1) bestehende Attributionsmethoden erzeugen ungenaue kleine Bereiche, was die Richtung der korrekten Attribution irreführend macht, und 2) das Modell kann für Proben mit falschen Vorhersagen keine guten Attributionsergebnisse liefern. Um diese Herausforderungen zu bewältigen, modelliert dieser Artikel das obige Bildattributionproblem als ein submodulares Teilmengeauswahlproblem, wobei das Ziel darin besteht, die Interpretierbarkeit des Modells durch weniger Bereiche zu verbessern. Um das Fehlen der Aufmerksamkeit auf lokale Bereiche zu beheben, konstruieren wir eine neuartige submodulare Funktion, um genaue kleinere Interpretationsbereiche besser zu erkennen. Um den Attributeneffekt für alle Proben zu verstärken, legen wir vier verschiedene Einschränkungen an die Auswahl von Teilbereichen fest: Konfidenz-, Effektivitäts-, Konsistenz- und Kooperationswerte (confidence, effectiveness, consistency, and collaboration scores), um die Bedeutung verschiedener Teilmengen zu bewerten. Darüber hinaus bestätigt unsere theoretische Analyse, dass die vorgeschlagene Funktion tatsächlich submodular ist. Ausführliche Experimente zeigen, dass die vorgeschlagene Methode auf zwei Gesichtserkennungsdatensätzen (Celeb-A und VGG-Face2) sowie einem feinkörnigen Datensatz (CUB-200-2011) bessere Ergebnisse als state-of-the-art Methoden erzielt. Für korrekt vorhergesagte Proben verbessert die vorgeschlagene Methode die Deletion- und Insertion-Scores im Durchschnitt um 4,9 % und 2,5 % im Vergleich zur HSIC-Attribution. Für inkorrekt vorhergesagte Proben erreicht unsere Methode durchschnittlich eine Steigerung von 81,0 % im höchsten Konfidenzwert und 18,4 % im Insertion-Score im Vergleich zum HSIC-Attribution-Algorithmus. Der Code wird unter https://github.com/RuoyuChen10/SMDL-Attribution veröffentlicht.