Testzeit-Training mit Selbstüberwachung für die Verallgemeinerung bei Verteilungsverschiebungen

In dieser Arbeit schlagen wir Testzeit-Training (Test-Time Training) vor, einen allgemeinen Ansatz zur Verbesserung der Leistung von Vorhersagemodellen, wenn Trainings- und Testdaten aus unterschiedlichen Verteilungen stammen. Wir transformieren ein einzelnes nicht gekennzeichnetes Testbeispiel in ein selbstüberwachtes Lernproblem, bei dem wir die Modellparameter aktualisieren, bevor eine Vorhersage getroffen wird. Dieser Ansatz lässt sich auch auf Daten in einem Online-Stream nahtlos erweitern. Unser einfacher Ansatz führt zu Verbesserungen bei verschiedenen Bildklassifizierungsbenchmarks, die darauf abzielen, die Robustheit gegenüber Verteilungsshifts zu evaluieren.