RankFeat : Suppression de caractéristiques de rang 1 pour la détection de données hors distribution

La tâche de détection des données hors distribution (OOD) est cruciale pour le déploiement des modèles d’apprentissage automatique dans des environnements réels. Dans cet article, nous observons que les distributions des valeurs singulières des caractéristiques in-distribution (ID) et OOD sont très différentes : la matrice de caractéristiques OOD présente généralement une valeur singulière dominante plus élevée que celle des caractéristiques ID, et les prédictions de classe pour les échantillons OOD sont largement déterminées par cette valeur singulière. Cette observation nous a conduit à proposer \texttt{RankFeat}, une approche simple mais efficace de détection OOD, applicable a posteriori, consistant à retirer la matrice de rang 1 formée par la plus grande valeur singulière et ses vecteurs singuliers associés à partir des caractéristiques de haut niveau (\emph{e.g.}, $\mathbf{X} - \mathbf{s}{1}\mathbf{u}{1}\mathbf{v}_{1}^{T}$). \texttt{RankFeat} atteint des performances \emph{état de l’art} et réduit le taux moyen de faux positifs à 95\% (FPR95) de 17,90\% par rapport à la meilleure méthode précédente. Des études ablatives étendues et des analyses théoriques complètes sont présentées afin de soutenir les résultats expérimentaux.