Vermeidung von Manifold-Übergriffen durch Lokalität: Lokales Mixup

Mixup ist eine datenabhängige Regularisierungstechnik, die darin besteht, Eingabeproben und deren zugehörige Ausgaben linear zu interpolieren. Es wurde gezeigt, dass Mixup die Genauigkeit bei der Trainingsaufgabe auf standardmäßigen maschinellen Lern-Datensätzen verbessern kann. Allerdings haben Autoren darauf hingewiesen, dass Mixup sogenannte „out-of-distribution“-virtuelle Proben erzeugen und sogar Widersprüche im erweiterten Trainingsdatensatz verursachen kann, was potenziell adversarielle Effekte nach sich ziehen kann. In diesem Paper führen wir Local Mixup ein, bei dem entfernte Eingabeproben bei der Berechnung des Verlusts abgewichtet werden. In eingeschränkten Szenarien zeigen wir, dass Local Mixup einen Kompromiss zwischen Verzerrung (bias) und Varianz ermöglicht, wobei die Extremfälle der herkömmlichen Trainingsmethode und klassischem Mixup entsprechen. Anhand standardisierter Benchmark-Aufgaben aus dem Bereich Computer Vision zeigen wir zudem, dass Local Mixup die Testgenauigkeit verbessern kann.