Lernen mit verrauschten Labels durch effiziente Schätzung der Übergangsmatrix zur Bekämpfung von Label-Fehlkorrekturen

Neuere Studien zum Lernen mit verrauschten Etiketten haben eine bemerkenswerte Leistung gezeigt, indem sie eine kleine saubere Datensammlung ausnutzen. Insbesondere basieren auf modellunabhängiger Meta-Lernverfahren aufbauende Methoden zur Etikettendkorrektur verbessern die Leistung weiter, indem sie verrauschte Etiketten dynamisch korrigieren. Allerdings gibt es keine Sicherung gegen falsche Etikettendkorrekturen, was eine unvermeidbare Leistungsverschlechterung nach sich zieht. Zudem erfordert jeder Trainingschritt mindestens drei Rückpropagationen, was die Trainingsgeschwindigkeit erheblich verlangsamt. Um diese Probleme zu mildern, schlagen wir eine robuste und effiziente Methode vor, die dynamisch eine Etikettentransitions-Matrix lernt. Durch die Verwendung der Transitions-Matrix wird der Klassifikator skeptisch gegenüber allen korrigierten Beispielen, was das Problem der Fehlkorrekturen entschärft. Zudem führen wir eine Zwei-Kopf-Architektur ein, um die Schätzung der Etikettentransitions-Matrix in jeder Iteration innerhalb einer einzigen Rückpropagation effizient durchzuführen, sodass die geschätzte Matrix der sich durch die Etikettendkorrektur verändernden Rauschverteilung eng folgt. Ausführliche Experimente zeigen, dass unser Ansatz die beste Trainingseffizienz aufweist und gleichzeitig eine vergleichbare oder bessere Genauigkeit im Vergleich zu bestehenden Methoden erreicht.