HyperAIHyperAI

Command Palette

Search for a command to run...

vor 4 Monaten

GEN: Die Grenzen der Softmax-basierten Detektion von Out-of-Distribution-Daten erweitern

{Christopher Zach Yaroslava Lochman Xixi Liu}

GEN: Die Grenzen der Softmax-basierten Detektion von Out-of-Distribution-Daten erweitern

Abstract

Die Erkennung von Daten außerhalb der Verteilung (Out-of-Distribution, OOD) wurde umfassend untersucht, um neuronale Netze erfolgreich einzusetzen, insbesondere für sicherheitskritische Anwendungen. Darüber hinaus ist die Durchführung von OOD-Erkennung auf großskaligen Datensätzen realistischer, stellt aber auch größere Herausforderungen dar. Mehrere Ansätze erfordern entweder Zugriff auf die Trainingsdaten zur Score-Designierung oder setzen Modelle während des Trainings ausgesprochenen Ausreißern aus. Einige post-hoc-Methoden können diese oben genannten Einschränkungen umgehen, sind jedoch weniger wettbewerbsfähig. In dieser Arbeit stellen wir den Generalisierten ENtropie-Score (GEN) vor, eine einfache, aber effektive, auf Entropie basierende Score-Funktion, die auf beliebige vortrainierte Softmax-basierte Klassifizierer angewendet werden kann. Ihre Leistung wird am großen Datensatz ImageNet-1k für OOD-Erkennung demonstriert. GEN verbessert konsistent die durchschnittliche AUROC über sechs gängige CNN-basierte und visuelle Transformer-Klassifizierer im Vergleich zu mehreren state-of-the-art post-hoc-Methoden. Die durchschnittliche Verbesserung der AUROC beträgt mindestens 3,5 %. Darüber hinaus nutzen wir GEN in Kombination mit feature-basierten Verbesserungsmethoden sowie Methoden, die Trainingsstatistiken ausnutzen, um die OOD-Erkennungsleistung weiter zu steigern. Der Quellcode ist unter folgender URL verfügbar: https://github.com/XixiLiu95/GEN.

KI mit KI entwickeln

Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.

KI-Co-Coding
Sofort einsatzbereit GPUs
Beste Preise
Jetzt starten

Hyper Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
GEN: Die Grenzen der Softmax-basierten Detektion von Out-of-Distribution-Daten erweitern | Forschungsarbeiten | HyperAI