Merkmalsausrichtung als generativer Prozess

Die Umkehrbarkeit in künstlichen neuronalen Netzen ermöglicht es, die Eingabe anhand einer Ausgabe zurückzugewinnen. Wir stellen Feature Alignment vor, eine Methode zur Näherung der Umkehrbarkeit in beliebigen neuronalen Netzen. Dabei trainieren wir ein Netzwerk, indem wir die Distanz zwischen der Ausgabe eines Datapunkts und einer zufälligen Ausgabe bezüglich eines zufälligen Eingabewerts minimieren. Wir haben diese Technik auf die Bild-Datensätze MNIST, CIFAR-10, CelebA und STL-10 angewendet. Wir zeigen, dass es mit dieser Methode möglich ist, Bilder grob aus ihrer latenzrepräsentativen Darstellung zurückzugewinnen, ohne dass ein Dekoder erforderlich ist. Unter Verwendung der Formulierung von Variationalen Autoencodern demonstrieren wir, dass es möglich ist, neue Bilder zu erzeugen, die statistisch vergleichbar mit den Trainingsdaten sind. Zudem zeigen wir, dass die Bildqualität durch die Koppelung eines Generators und eines Diskriminators verbessert werden kann. Außerdem verdeutlichen wir, wie diese Methode mit wenigen geringfügigen Modifikationen zur lokalen Netzwerktrainierung genutzt werden kann, was das Potenzial hat, rechnerische Speicherressourcen zu sparen.