HyperAIHyperAI

Command Palette

Search for a command to run...

AdaCos: Adaptive Skalierung der Cosinus-Logits für effektives Lernen tiefer Gesichtsdarstellungen

Xiao Zhang Rui Zhao Yu Qiao Xiaogang Wang Hongsheng Li

Zusammenfassung

Die kosinusbasierten Softmax-Verlustfunktionen und ihre Varianten erzielen in der tiefen Lernbasierten Gesichtserkennung große Erfolge. Allerdings haben die Einstellungen von Hyperparametern in diesen Verlustfunktionen einen erheblichen Einfluss auf den Optimierungspfad sowie auf die endgültige Erkennungsleistung. Das manuelle Anpassen dieser Hyperparameter hängt stark von der Benutzererfahrung ab und erfordert viele Trainingsstrategien. In dieser Arbeit untersuchen wir eingehend die Auswirkungen zweier wichtiger Hyperparameter der kosinusbasierten Softmax-Verlustfunktionen, nämlich des Skalierungsparameters und des Winkelabstandsparameters, indem wir analysieren, wie sie die vorhergesagte Klassifikationswahrscheinlichkeit modulieren. Auf Basis dieser Analysen schlagen wir eine neue kosinusbasierte Softmax-Verlustfunktion vor, AdaCos, die hyperparameterfrei ist und einen adaptiven Skalierungsparameter verwendet, um während des Trainingsprozesses automatisch die Trainingsüberwachung zu verstärken. Wir wenden den vorgeschlagenen AdaCos-Verlust auf umfangreiche Gesichtsverifizierungs- und Identifikationsdatensätze an, darunter LFW, MegaFace und IJB-C 1:1 Verifikation. Unsere Ergebnisse zeigen, dass das Training tiefer neuronaler Netze mit dem AdaCos-Verlust stabil ist und eine hohe Gesichtserkennungsgenauigkeit erreichen kann. Unsere Methode übertrifft den aktuellen Stand der Technik in Bezug auf Softmax-Verlustfunktionen bei allen drei Datensätzen.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp