Verbesserung tiefer Regression mit ordinaler Entropie

In der Computer Vision wird oft beobachtet, dass die Formulierung von Regressionsaufgaben als Klassifizierungsaufgaben häufig eine bessere Leistung erzielt. Wir untersuchen dieses kuriose Phänomen und leiten her, dass die Klassifizierung mit der Kreuzentropieloss-Funktion die Fähigkeit zur Lernung hoch-entropischer Merkmalsdarstellungen übertrifft, verglichen mit der Regression unter Verwendung der Mean-Squared-Error-Loss. Auf Basis dieser Analyse schlagen wir eine ordinale Entropieloss-Funktion vor, die höhere Entropie im Merkmalsraum fördert, gleichzeitig jedoch die ordinalen Beziehungen bewahrt, um die Leistung von Regressionsaufgaben zu verbessern. Experimente an synthetischen und realen Regressionsaufgaben belegen die Bedeutung und Vorteile einer Erhöhung der Entropie für Regressionsverfahren.