Ein eingeschränktes tiefes neuronales Netzwerk für ordinale Regression

Ordnungsschätzung (ordinal regression) ist ein überwachtes Lernproblem, das darauf abzielt, Instanzen in ordnungsgemäß geordnete Kategorien einzuteilen. Es ist herausfordernd, automatisch hochwertige Merkmale zu extrahieren, die sowohl die Intra-Klassen-Information als auch die Ordnungsbeziehung zwischen den Klassen gleichzeitig repräsentieren. In diesem Artikel wird eine eingeschränkte Optimierungsformulierung für das Problem der Ordnungsschätzung vorgeschlagen, die die negative Log-Likelihood für mehrere Kategorien minimiert, wobei die Ordnungsbeziehung zwischen den Instanzen berücksichtigt wird. Mathematisch entspricht dies einer unbeschränkten Formulierung mit einem paarweisen Regularisierer. Es wird eine Implementierung auf Basis des CNN-Rahmenwerks vorgeschlagen, die es ermöglicht, hochwertige Merkmale automatisch zu extrahieren, wobei die optimale Lösung durch den klassischen Rückpropagation-Algorithmus erlernt werden kann. Die vorgeschlagenen paarweisen Constraints ermöglichen es dem Algorithmus, auch auf kleinen Datensätzen effektiv zu arbeiten, während die vorgeschlagene effiziente Implementierung eine Skalierbarkeit für große Datensätze gewährleistet. Experimentelle Ergebnisse auf vier realen Benchmark-Datensätzen zeigen, dass der vorgeschlagene Algorithmus traditionelle Deep-Learning-Ansätze sowie andere state-of-the-art-Verfahren, die auf handgefertigten Merkmalen basieren, übertrifft.