HyperAIHyperAI

Command Palette

Search for a command to run...

Less is More: Weniger interpretierbare Regionen durch submodulare Teilmengeauswahl

Chen Ruoyu ; Zhang Hua ; Liang Siyuan ; Li Jingzhi ; Cao Xiaochun

Zusammenfassung

Bildattributionsalgorithmen zielen darauf ab, wichtige Bereiche zu identifizieren, die für Modellentscheidungen von hoher Relevanz sind. Obwohl existierende Attributionslösungen effektiv die Bedeutung von Zielobjekten zuordnen können, stehen sie den folgenden Herausforderungen gegenüber: 1) bestehende Attributionsmethoden erzeugen ungenaue kleine Bereiche, was die Richtung der korrekten Attribution irreführend macht, und 2) das Modell kann für Proben mit falschen Vorhersagen keine guten Attributionsergebnisse liefern. Um diese Herausforderungen zu bewältigen, modelliert dieser Artikel das obige Bildattributionproblem als ein submodulares Teilmengeauswahlproblem, wobei das Ziel darin besteht, die Interpretierbarkeit des Modells durch weniger Bereiche zu verbessern. Um das Fehlen der Aufmerksamkeit auf lokale Bereiche zu beheben, konstruieren wir eine neuartige submodulare Funktion, um genaue kleinere Interpretationsbereiche besser zu erkennen. Um den Attributeneffekt für alle Proben zu verstärken, legen wir vier verschiedene Einschränkungen an die Auswahl von Teilbereichen fest: Konfidenz-, Effektivitäts-, Konsistenz- und Kooperationswerte (confidence, effectiveness, consistency, and collaboration scores), um die Bedeutung verschiedener Teilmengen zu bewerten. Darüber hinaus bestätigt unsere theoretische Analyse, dass die vorgeschlagene Funktion tatsächlich submodular ist. Ausführliche Experimente zeigen, dass die vorgeschlagene Methode auf zwei Gesichtserkennungsdatensätzen (Celeb-A und VGG-Face2) sowie einem feinkörnigen Datensatz (CUB-200-2011) bessere Ergebnisse als state-of-the-art Methoden erzielt. Für korrekt vorhergesagte Proben verbessert die vorgeschlagene Methode die Deletion- und Insertion-Scores im Durchschnitt um 4,9 % und 2,5 % im Vergleich zur HSIC-Attribution. Für inkorrekt vorhergesagte Proben erreicht unsere Methode durchschnittlich eine Steigerung von 81,0 % im höchsten Konfidenzwert und 18,4 % im Insertion-Score im Vergleich zum HSIC-Attribution-Algorithmus. Der Code wird unter https://github.com/RuoyuChen10/SMDL-Attribution veröffentlicht.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp