Tiefe Subraum-Clustering-Netzwerke

Wir präsentieren eine neuartige Architektur für tiefes neuronales Netzwerk zur unüberwachten Unterraumclustering. Diese Architektur basiert auf tiefen Auto-Encodern, die die Eingabedaten nichtlinear in einen latenten Raum abbilden. Unser Kerngedanke besteht darin, eine neuartige selbstausdrückende Schicht zwischen dem Encoder und dem Decoder einzuführen, um die Eigenschaft der „Selbstausdrücktheit“ nachzuahmen, die sich in traditionellen Unterraumclustering-Methoden als effektiv erwiesen hat. Da unsere neue selbstausdrückende Schicht differenzierbar ist, bietet sie eine einfache aber effektive Möglichkeit, Paaraffinitäten zwischen allen Datenpunkten durch ein Standard-Rückpropagationsverfahren zu lernen. Aufgrund ihrer Nichtlinearität ist unser neuronales Netzwerk-basiertes Verfahren in der Lage, Datenpunkte mit komplexen (oft nichtlinearen) Strukturen zu clustern. Wir schlagen zudem Vorgehensweisen für das Vortraining und Feintuning vor, die es uns ermöglichen, die Parameter unserer Unterraumclustering-Netzwerke effektiv zu lernen. Unsere Experimente zeigen, dass das vorgeschlagene Verfahren den aktuellen Stand der Technik in Bezug auf unüberwachtes Unterraumclustering erheblich übertrifft.