HyperAIHyperAI

Command Palette

Search for a command to run...

DeiT III: Die Rache der ViT

Hugo Touvron Matthieu Cord Hervé Jégou

Zusammenfassung

Ein Vision Transformer (ViT) ist eine einfache neuronale Architektur, die sich für verschiedene Aufgaben im Bereich des maschinellen Sehens eignet. Im Gegensatz zu jüngeren Architekturen, die entweder Vorwissen über die Eingabedaten oder spezifische Aufgaben in ihre Struktur integrieren, verfügt ein ViT über nur geringe eingebaute architektonische Vorkenntnisse. Neuere Arbeiten zeigen, dass ViTs von selbstüberwachtem Vortrainings profitieren, insbesondere von Vortrainingsansätzen, die an BerT-ähnliche Verfahren wie BeiT angelehnt sind. In diesem Paper überprüfen wir erneut die überwachte Trainingsstrategie für ViTs. Unser Verfahren baut auf und vereinfacht ein Rezept auf, das ursprünglich für das Training von ResNet-50 entwickelt wurde. Es beinhaltet eine neue, einfache Daten-Augmentierungsmethode mit lediglich drei Augmentierungsoperationen, die der Praxis im selbstüberwachten Lernen näherkommt. Unsere Evaluationen im Bereich der Bildklassifikation (ImageNet-1k mit und ohne Vortrainings auf ImageNet-21k), Transferlernen und semantischer Segmentierung zeigen, dass unser Verfahren im Vergleich zu früheren vollständig überwachten Trainingsrezepten für ViTs deutlich übertrifft. Zudem zeigt sich, dass die Leistung unseres mit Überwachung trainierten ViTs vergleichbar ist mit der jüngerer Architekturen. Unsere Ergebnisse können als verbesserte Baselines für neuere selbstüberwachte Ansätze dienen, die auf ViT demonstriert wurden.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp