Formation à l'épreuve avec auto-supervision pour la généralisation sous des décalages de distribution

Dans cet article, nous proposons la formation au moment du test (Test-Time Training), une approche générale visant à améliorer les performances des modèles prédictifs lorsque les données d'entraînement et de test proviennent de distributions différentes. Nous transformons un échantillon de test non étiqueté en un problème d'apprentissage auto-supervisé, sur lequel nous mettons à jour les paramètres du modèle avant de faire une prédiction. Cette méthode s'étend naturellement aux données en flux continu (online stream). Notre approche simple permet des améliorations sur diverses benchmarks de classification d'images destinées à évaluer la robustesse face aux décalages de distribution.