À l'intérieur des réseaux de neurones convolutifs : visualisation des modèles de classification d'images et des cartes de saillance

Ce document traite de la visualisation des modèles de classification d'images appris à l'aide de réseaux de neurones convolutifs profonds (ConvNets). Nous examinons deux techniques de visualisation basées sur le calcul du gradient du score de classe par rapport à l'image d'entrée. La première génère une image qui maximise le score de classe [Erhan et al., 2009], permettant ainsi de visualiser la notion de classe capturée par un ConvNet. La seconde technique calcule une carte de saillance spécifique à une image et une classe données. Nous démontrons que ces cartes peuvent être utilisées pour la segmentation d'objets faiblement supervisée en utilisant des ConvNets de classification. Enfin, nous établissons le lien entre les méthodes de visualisation des ConvNets basées sur le gradient et les réseaux déconvolutifs [Zeiler et al., 2013].