HyperAIHyperAI

Command Palette

Search for a command to run...

vor 4 Monaten

Ein einfacher episodischer linearer Probe verbessert die visuelle Erkennung in der Wildnis

{Yi Yang Xiaohan Wang Linchao Zhu Yuanzhi Liang}

Ein einfacher episodischer linearer Probe verbessert die visuelle Erkennung in der Wildnis

Abstract

Die Verständnis von Netzwerk-Verallgemeinerung und Merkmalsunterscheidbarkeit stellt ein offenes Forschungsproblem im Bereich der visuellen Erkennung dar. Zahlreiche Studien wurden unternommen, um die Qualität von Merkmalsrepräsentationen zu bewerten. Eine der einfachen Strategien besteht darin, einen linearen Probing-Klassifikator einzusetzen, um die Klassifiziergenauigkeit unter den gewonnenen Merkmalen quantitativ zu evaluieren. Der typische lineare Probing-Klassifikator wird üblicherweise lediglich als Ersatzmodell zur Inferenzzeit verwendet, während seine Wirksamkeit bei der Messung der Eignung der Merkmale für die lineare Klassifikation während des Trainings weitgehend vernachlässigt wird. In diesem Paper stellen wir einen episodischen linearen Probing-Klassifikator (Episodic Linear Probing, ELP) vor, der die Verallgemeinerung visueller Repräsentationen in Echtzeit widerspiegelt. ELP wird mit abgetrennten Merkmalen aus dem Netzwerk trainiert und episodisch neu initialisiert. Er verdeutlicht die Unterscheidbarkeit der visuellen Repräsentationen während des Trainings. Anschließend wird eine ELP-geeignete Regularisierungsterm (ELP-Suitable Regularization, ELP-SR) eingeführt, um die Abstände zwischen den Wahrscheinlichkeitsverteilungen des ELP-Klassifikators und des Hauptklassifikators zu erfassen. ELP-SR nutzt einen neu skalierten Faktor, um jedes Beispiel während des Trainings zu regularisieren, wodurch die Verlustfunktion adaptiv moduliert und die Merkmale gleichzeitig unterscheidbar und verallgemeinerungsfähig gefördert werden. Wir beobachten signifikante Verbesserungen in drei realen Aufgaben der visuellen Erkennung, darunter feinabgestimmte visuelle Klassifikation, langschwänzige visuelle Erkennung sowie generische Objekterkennung. Die erzielten Leistungssteigerungen belegen die Wirksamkeit unseres Ansatzes zur Verbesserung der Netzwerk-Verallgemeinerung und Merkmalsunterscheidbarkeit.

KI mit KI entwickeln

Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.

KI-Co-Coding
Sofort einsatzbereit GPUs
Beste Preise
Jetzt starten

Hyper Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Ein einfacher episodischer linearer Probe verbessert die visuelle Erkennung in der Wildnis | Forschungsarbeiten | HyperAI