Balanced Meta-Softmax für die Long-Tailed Visual Recognition

Tiefere Klassifizierer haben erheblichen Erfolg in der visuellen Erkennung erzielt. Allerdings ist echte Daten in der Praxis naturgemäß langschwänzig, was zu einer Diskrepanz zwischen Trainings- und Testverteilung führt. In dieser Arbeit zeigen wir, dass die Softmax-Funktion, obwohl sie in den meisten Klassifizierungsaufgaben verwendet wird, unter einer langschwänzigen Verteilung eine verzerrte Gradientenschätzung liefert. Wir stellen Balanced Softmax vor, eine elegante, unverzerrte Erweiterung der Softmax-Funktion, die der Veränderung der Klassenverteilung zwischen Training und Test Rechnung trägt. Theoretisch leiten wir eine Generalisierungsgrenze für die Multiklassen-Softmax-Regression ab und zeigen, dass unsere Verlustfunktion diese Grenze minimiert. Zudem führen wir Balanced Meta-Softmax ein, das einen komplementären Meta-Sampler nutzt, um die optimale Klassenstichprobensatzrate zu schätzen und die Leistung bei der langschwänzigen Lernprozesse weiter zu verbessern. In unseren Experimenten zeigen wir, dass Balanced Meta-Softmax state-of-the-art-Methoden zur langschwänzigen Klassifizierung sowohl bei visueller Erkennung als auch bei Instanzsegmentierung übertrifft.