Un Cadre Simple et Unifié pour la Détection d'Échantillons Hors Distribution et d'Attaques Adverses

La détection de spécimens de test suffisamment éloignés de la distribution d'entraînement, que ce soit de manière statistique ou adverse, est une exigence fondamentale pour déployer un bon classifieur dans de nombreuses applications réelles d'apprentissage automatique. Cependant, il est connu que les réseaux neuronaux profonds avec un classifieur softmax produisent des distributions postérieures très surconfiantes même pour ces échantillons anormaux. Dans cet article, nous proposons une méthode simple mais efficace pour détecter tout type d'échantillon anormal, applicable à tout classifieur neuronal pré-entraîné utilisant le softmax. Nous obtenons les distributions gaussiennes conditionnelles par classe en fonction des caractéristiques (de bas et haut niveau) des modèles profonds sous l'analyse discriminante gaussienne, ce qui conduit à un score de confiance basé sur la distance de Mahalanobis. Alors que la plupart des méthodes précédentes ont été évaluées pour détecter soit les échantillons hors distribution, soit les échantillons adverses, mais pas les deux simultanément, notre méthode proposée atteint des performances de pointe dans les deux cas lors de nos expériences. De plus, nous avons constaté que notre méthode proposée est plus robuste dans des situations difficiles, par exemple lorsque l'ensemble d'entraînement comporte des étiquettes bruyantes ou un petit nombre d'échantillons. Enfin, nous montrons que notre méthode peut être utilisée dans un cadre plus large en l'appliquant à l'apprentissage incrémentiel par classe : chaque fois qu'un échantillon hors distribution est détecté, notre règle de classification peut intégrer de nouvelles classes efficacement sans nécessiter un nouvel entraînement des modèles profonds.