Gleichgewichtiertes Self-Paced Learning für einen generativen adversarialen Clustering-Netzwerk

Clustering stellt ein zentrales Problem in verschiedenen Anwendungen des maschinellen Lernens dar, bleibt jedoch bei der Bearbeitung komplexer realer Daten weiterhin eine herausfordernde Aufgabe. Bestehende Clustering-Algorithmen nutzen entweder flache Modelle mit unzureichender Kapazität zur Erfassung der nichtlinearen Struktur der Daten oder tiefe Modelle mit einer großen Anzahl an Parametern, die überanpassungsfähig sind. In diesem Artikel stellen wir ein tiefes generatives adversariales Clustering-Netzwerk (ClusterGAN) vor, das die Herausforderungen der unsupervised Trainierung tiefer Clustering-Modelle adressiert. ClusterGAN besteht aus drei Netzwerken: einem Diskriminators, einem Generator und einem Clusterer (d. h. einem Clustering-Netzwerk). Wir nutzen ein adversariales Spiel zwischen diesen drei Komponenten, um anhand diskriminativer latenter Variablen realistische Proben mittels des Generators zu synthetisieren und gleichzeitig die inverse Abbildung der realen Proben in den diskriminativen Embedding-Raum über den Clusterer zu lernen. Zudem setzen wir eine bedingte Entropie-Minimierungsverlustfunktion ein, um die Ähnlichkeit innerhalb von Clustern zu erhöhen und die Ähnlichkeit zwischen verschiedenen Clustern zu verringern. Da die wahren Ähnlichkeiten im Clustering-Task nicht bekannt sind, schlagen wir einen neuartigen ausgewogenen selbstgesteuerten Lernansatz vor, der Proben schrittweise vom einfachen zum schwierigen, unter Berücksichtigung der Vielfalt der ausgewählten Proben aus allen Clustern, in das Training einbezieht. Dadurch ermöglicht unsere Methode eine effiziente Trainierung von Clusterern mit großer Tiefe durch Ausnutzung des vorgeschlagenen adversarialen Spiels und des ausgewogenen selbstgesteuerten Lernalgorithmus. In unseren Experimenten erreicht ClusterGAN wettbewerbsfähige Ergebnisse im Vergleich zu den aktuell besten Clustering- und Hashing-Modellen auf mehreren Datensätzen.