Tief in konvolutorischen Netzen: Visualisierung von Bildklassifikationsmodellen und Salienzkarten

Dieses Papier behandelt die Visualisierung von Bildklassifizierungsmodellen, die mit tiefen Faltungsnetzen (ConvNets) gelernt wurden. Wir betrachten zwei Visualisierungstechniken, die auf der Berechnung des Gradienten des Klassenscores bezüglich des Eingangsbildes basieren. Die erste Technik erzeugt ein Bild, das den Klassenscore maximiert [Erhan et al., 2009], und damit das Konzept der Klasse veranschaulicht, das von einem ConvNet erfasst wird. Die zweite Technik berechnet eine Klassen-Salienzkarte, die spezifisch für ein gegebenes Bild und eine Klasse ist. Wir zeigen, dass solche Karten zur schwach überwachten Objektsegmentierung unter Verwendung von Klassifikations-ConvNets eingesetzt werden können. Schließlich legen wir den Zusammenhang zwischen den gradientbasierten Visualisierungsmethoden für ConvNets und Deconvolutionsnetzen [Zeiler et al., 2013] dar.