Exemple Contradictoire

Les exemples contradictoires font référence aux entrées dans un réseau neuronal qui amènent le réseau à produire des résultats incorrects.

Les échantillons d’entrée sont formés en ajoutant délibérément une légère interférence dans l’ensemble de données. L'entrée interférée amène le modèle à donner une sortie erronée avec une grande confiance. Les échantillons d’entrée sont appelés échantillons contradictoires. Ce comportement est généralement considéré comme une attaque adverse contre le modèle de réseau neuronal.

Cette idée a été proposée pour la première fois par Christian Szegedy et al. dans leur article ICLR2014.