Zu Merkmalsskalierung und Datenverstärkung

Die Momente (a.k.a. Mittelwert und Standardabweichung) latenter Merkmale werden häufig als Rauschen entfernt, wenn Bilderkennungsmodelle trainiert werden, um Stabilität zu erhöhen und die Trainingszeit zu reduzieren. In der Bildgenerierung spielt dagegen eine zentrale Rolle. Studien haben gezeigt, dass die aus Instanznormalisierung und Positionsnormalisierung extrahierten Momente die Stil- und Forminformationen eines Bildes grob erfassen können. Anstatt diese Momente zu verwerfen, sind sie vielmehr entscheidend für den Generierungsprozess. In diesem Artikel stellen wir Moment Exchange vor, eine implizite Daten-Augmentierungsmethode, die das Modell dazu anregt, auch bei Erkennungsmodellen die Momenteninformationen zu nutzen. Konkret ersetzen wir die Momente der gelernten Merkmale eines Trainingsbildes durch die Momente eines anderen Bildes und interpolieren zudem die Zielbezeichnungen – was das Modell dazu zwingt, zusätzlich zu den normalisierten Merkmalen auch Signal aus den Momenten zu extrahieren. Da unsere Methode schnell ist, vollständig im Merkmalsraum arbeitet und gegenüber vorherigen Ansätzen andere Signale mischt, lässt sie sich effektiv mit bestehenden Augmentierungsverfahren kombinieren. Wir zeigen ihre Wirksamkeit an mehreren Benchmark-Datensätzen für Bilderkennung, wo sie die Generalisierungsfähigkeit hochkompetitiver Baseline-Netzwerke mit bemerkenswerter Konsistenz verbessert.