EXACT: Wie man seine Genauigkeit trainiert

Klassifikationsaufgaben werden üblicherweise anhand der Genauigkeit bewertet. Genauigkeit ist jedoch diskontinuierlich und kann nicht direkt mittels Gradientenanstieg optimiert werden. Gebräuchliche Verfahren minimieren die Kreuzentropie, die Hinge-Verlustfunktion oder andere Ersatzverluste, was zu suboptimalen Ergebnissen führen kann. In diesem Paper stellen wir einen neuen Optimierungsrahmen vor, indem wir Stochastizität in die Ausgabe eines Modells einführen und die erwartete Genauigkeit – also die Genauigkeit des stochastischen Modells – optimieren. Umfangreiche Experimente an linearen Modellen und tiefen Bildklassifikationsaufgaben zeigen, dass die vorgeschlagene Optimierungsmethode eine leistungsstarke Alternative zu den weit verbreiteten Klassifikationsverlustfunktionen darstellt.