HyperAIHyperAI

Command Palette

Search for a command to run...

Wiederholende Reprediction Tiefes Entschlüsseln für semi-supervises Lernen

Guo-Hua Wang; Jianxin Wu

Zusammenfassung

Die meisten aktuellen semi-überwachten Tiefen-Lernmethoden (Tiefes SSL) folgten einem ähnlichen Paradigma: die Netzwerkvorhersagen werden verwendet, um Pseudo-Labels zu aktualisieren, und diese Pseudo-Labels werden wiederum verwendet, um die Netzwerkparameter iterativ zu aktualisieren. Allerdings fehlt es ihnen an theoretischer Begründung, und sie können nicht erklären, warum Vorhersagen gute Kandidaten für Pseudo-Labels sind. In dieser Arbeit schlagen wir ein präzises End-to-End-Framework namens Deep Decipher (D2) für SSL vor. Innerhalb des D2-Frameworks beweisen wir, dass Pseudo-Labels durch eine exponentielle Verknüpfungsfunktion mit den Netzwerkvorhersagen in Beziehung stehen, was eine theoretische Grundlage für die Verwendung von Vorhersagen als Pseudo-Labels liefert. Darüber hinaus zeigen wir, dass das Aktualisieren von Pseudo-Labels durch Netzwerkvorhersagen ihre Unsicherheit erhöht. Um dieses Problem zu mildern, schlagen wir eine Trainingsstrategie vor, die als repetitive Reprediction (R2) bezeichnet wird. Schließlich wird die vorgeschlagene R2-D2-Methode auf dem großen ImageNet-Datensatz getestet und übertreffen dabei die Stand der Technik um 5 Prozentpunkte.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp