Singularity de l'espace des caractéristiques pour la détection des données hors distribution

La détection des données hors distribution (Out-of-Distribution, OoD) est essentielle pour concevoir des systèmes d’intelligence artificielle sûrs. Toutefois, les méthodes actuelles de détection OoD ne parviennent pas encore à satisfaire les exigences de performance nécessaires pour un déploiement pratique. Dans cet article, nous proposons un algorithme simple mais efficace, fondé sur une observation originale : dans un réseau neuronal entraîné, les échantillons OoD dont les normes sont bornées se concentrent fortement dans l’espace des caractéristiques. Nous appelons le centre des caractéristiques OoD la Singularité de l’Espace des Caractéristiques (Feature Space Singularity, FSS), et notons la distance entre les caractéristiques d’un échantillon et la FSS comme FSSD. Ainsi, les échantillons OoD peuvent être identifiés en appliquant un seuil sur la valeur de FSSD. Notre analyse du phénomène révèle les raisons pour lesquelles cet algorithme fonctionne. Nous démontrons que notre méthode atteint des performances de pointe sur diverses benchmarks de détection OoD. En outre, la mesure FSSD présente une robustesse accrue face à de légères perturbations dans les données de test et peut être encore améliorée par ensemblage. Ces propriétés en font un algorithme prometteur pour une utilisation dans des applications réelles. Nous mettons à disposition notre code à l’adresse suivante : \url{https://github.com/megvii-research/FSSD_OoD_Detection}.