ReAct : Détection de distribution hors domaine avec des activations rectifiées

La détection des données hors distribution (OOD) a récemment suscité un vif intérêt en raison de son importance pratique pour garantir un déploiement sécurisé des réseaux de neurones. L’un des principaux défis réside dans le fait que les modèles produisent souvent des prédictions très confiantes sur des données OOD, ce qui remet en question le principe fondamental de la détection OOD selon lequel le modèle ne devrait être confiant que sur les échantillons appartenant à la distribution d’entrée. Dans ce travail, nous proposons ReAct — une technique simple et efficace visant à réduire l’excès de confiance des modèles sur les données OOD. Notre méthode s’inspire d’une analyse originale des activations internes des réseaux de neurones, révélant des motifs caractéristiques distinctifs pour les distributions OOD. Cette approche s’avère robuste et généralisable à diverses architectures de réseaux et à différentes mesures de détection OOD. Nous démontrons empiriquement que ReAct atteint des performances compétitives sur une large gamme de jeux de données de référence, tout en fournissant une explication théorique de son efficacité. Sur le benchmark ImageNet, ReAct réduit le taux de faux positifs (FPR95) de 25,05 % par rapport à la méthode précédemment la plus performante.