HyperAIHyperAI

Command Palette

Search for a command to run...

Dimensionsgetriebenes Lernen mit verrauschten Etiketten

Xingjun Ma∗1 Yisen Wang∗2 Michael E. Houle3 Shuo Zhou1 Sarah M. Erfani1 Shu-Tao Xia2 Sudanthi Wijewickrema1 James Bailey1

Zusammenfassung

Datensätze mit erheblichen Anteilen verrauschter (falscher) Klassifikationslabels stellen Herausforderungen für die Ausbildung genauer Tief neuronalen Netze (Deep Neural Networks, DNNs) dar. Wir schlagen eine neue Perspektive zur Verallgemeinerung von DNNs bei solchen Datensätzen vor, indem wir die Dimensionalität des tiefen Repräsentationssubraums der Trainingsbeispiele untersuchen. Unsere Untersuchungen zeigen, dass DNNs aus dimensionalitätstheoretischer Sicht recht unterschiedliche Lernstile aufweisen, je nachdem, ob sie mit sauberen Labels oder mit einem Anteil verrauschter Labels trainiert werden. Auf Basis dieses Befundes entwickeln wir eine neuartige dimensionsgetriebene Lernstrategie, die während des Trainings die Dimensionalität der Subräume überwacht und die Verlustfunktion entsprechend anpasst. Wir führen empirische Studien durch, die belegen, dass unser Ansatz gegenüber erheblichen Anteilen verrauschter Labels hochgradig robust ist und effektiv niedrigdimensionale lokale Subräume lernen kann, die die Datenverteilung erfassen.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Dimensionsgetriebenes Lernen mit verrauschten Etiketten | Paper | HyperAI