HyperAIHyperAI

Command Palette

Search for a command to run...

Deep AutoAugment

Yu Zheng Zhi Zhang Shen Yan Mi Zhang

Zusammenfassung

Obwohl neuere automatisierte Methoden zur Datenverstärkung (data augmentation) führende Ergebnisse erzielen, beruhen ihre Designräume und die daraus abgeleiteten Strategien weiterhin auf starken menschlichen Vorwissen. In dieser Arbeit stellen wir anstelle der Fixierung einer festgelegten Menge handverlesener Standardverstärkungen zusammen mit den gesuchten Verstärkungen eine vollständig automatisierte Methode zum Suchen von Datenverstärkungen vor, die wir Deep AutoAugment (DeepAA) nennen. DeepAA baut schrittweise eine mehrschichtige Datenverstärkungspipeline von Grund auf auf, indem es Verstärkungsschichten nacheinander hinzufügt, bis Konvergenz erreicht ist. Für jeden Verstärkungsschritt wird die Strategie so optimiert, dass die Kosinusähnlichkeit zwischen den Gradienten des ursprünglichen und des verstärkten Datensatzes entlang der Richtung mit geringer Varianz maximiert wird. Unsere Experimente zeigen, dass selbst ohne Verwendung von Standardverstärkungen eine Verstärkungsstrategie erlernt werden kann, die Leistungen erzielt, die mit denen früherer Arbeiten vergleichbar sind. Umfangreiche Ablationsstudien belegen, dass die regulierte Gradientenübereinstimmung eine effektive Suchmethode für Datenverstärkungsstrategien darstellt. Der Quellcode ist unter folgender URL verfügbar: https://github.com/MSU-MLSys-Lab/DeepAA.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp