HyperAIHyperAI

Command Palette

Search for a command to run...

Vermeidung von Manifold-Übergriffen durch Lokalität: Lokales Mixup

Raphael Baena Lucas Drumetz Vincent Gripon

Zusammenfassung

Mixup ist eine datenabhängige Regularisierungstechnik, die darin besteht, Eingabeproben und deren zugehörige Ausgaben linear zu interpolieren. Es wurde gezeigt, dass Mixup die Genauigkeit bei der Trainingsaufgabe auf standardmäßigen maschinellen Lern-Datensätzen verbessern kann. Allerdings haben Autoren darauf hingewiesen, dass Mixup sogenannte „out-of-distribution“-virtuelle Proben erzeugen und sogar Widersprüche im erweiterten Trainingsdatensatz verursachen kann, was potenziell adversarielle Effekte nach sich ziehen kann. In diesem Paper führen wir Local Mixup ein, bei dem entfernte Eingabeproben bei der Berechnung des Verlusts abgewichtet werden. In eingeschränkten Szenarien zeigen wir, dass Local Mixup einen Kompromiss zwischen Verzerrung (bias) und Varianz ermöglicht, wobei die Extremfälle der herkömmlichen Trainingsmethode und klassischem Mixup entsprechen. Anhand standardisierter Benchmark-Aufgaben aus dem Bereich Computer Vision zeigen wir zudem, dass Local Mixup die Testgenauigkeit verbessern kann.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp