Clustering-freundliche Darstellungslernung mittels Instanzdiskriminierung und Merkmalsdekorrelation

Clustering ist eine der grundlegendsten Aufgaben im maschinellen Lernen. In jüngster Zeit hat das tiefe Clustering zu einem zentralen Trend in der Clustering-Technik avanciert. Die Darstellungslernmethoden spielen oft eine entscheidende Rolle für die Effektivität des tiefen Clustering und können daher eine zentrale Ursache für eine Leistungseinbuße darstellen. In diesem Artikel stellen wir eine clusterverträgliche Darstellungslernmethode vor, die auf der Instanzdiskriminierung und der Merkmalsdekorrelation basiert. Unsere auf tiefen neuronalen Netzen basierende Darstellungslernmethode wird durch Eigenschaften klassischer spektraler Clustering-Verfahren motiviert. Die Instanzdiskriminierung lernt Ähnlichkeiten zwischen Datenpunkten, während die Merkmalsdekorrelation überflüssige Korrelationen zwischen Merkmalen entfernt. Wir nutzen eine Instanzdiskriminierungsmethode, bei der das Lernen einzelner Instanzklassen dazu führt, Ähnlichkeiten zwischen Instanzen zu erlernen. Durch detaillierte Experimente und Analyse zeigen wir, dass der Ansatz zur Lernung eines latente Raums für das Clustering geeignet ist. Wir entwickeln neuartige Softmax-Formulierungen zur Dekorrelation als Lernbedingungen. Bei der Bewertung des Bild-Clustering auf CIFAR-10 und ImageNet-10 erreicht unsere Methode jeweils eine Genauigkeit von 81,5 % und 95,4 %. Zudem zeigen wir, dass die Softmax-Formulierungen der Constraints mit verschiedenen neuronalen Netzwerken kompatibel sind.