Test de pixel mort utilisant le champ réceptif effectif

Les réseaux neuronaux profonds ont été largement utilisés dans divers domaines, mais leur comportement interne reste mal compris. Dans cette étude, nous analysons deux comportements contre-intuitifs des réseaux de neurones convolutifs (CNN). Premièrement, nous évaluons la taille du champ réceptif. Des travaux antérieurs ont cherché à augmenter ou à contrôler la taille du champ réceptif. Toutefois, nous observons que cette taille ne corrèle pas directement avec la précision de classification. La taille du champ réceptif s'avère donc inappropriée pour représenter l'efficacité d'un modèle, car elle ne tient compte que de la profondeur ou de la taille des noyaux, sans intégrer d'autres facteurs clés tels que la largeur ou la cardinalité. Deuxièmement, en utilisant le champ réceptif effectif, nous examinons les pixels qui contribuent réellement à la sortie. Intuitivement, on s'attend à ce que tous les pixels contribuent de manière égale au résultat final. Or, nous constatons l'existence de pixels partiellement « morts », c’est-à-dire qui apportent une contribution négligeable à la sortie. Nous montrons que cette situation découle directement de l’architecture des CNN et proposons des solutions pour atténuer ce phénomène. Intéressamment, pour les tâches générales de classification, la présence de tels pixels morts améliore la phase d’apprentissage des CNN. En revanche, dans des tâches sensibles aux petites perturbations, ces pixels morts entraînent une dégradation des performances. Par conséquent, la présence de ces pixels doit être prise en compte et bien comprise dans les applications pratiques des réseaux de neurones convolutifs.