HyperAIHyperAI

Command Palette

Search for a command to run...

LINe: Detektion von Außerhalb der Verteilung Liegenden durch Nutzung wichtiger Neuronen

Yong Hyun Ahn Gyeong-Moon Park Seong Tae Kim

Zusammenfassung

Es ist von entscheidender Bedeutung, die Unsicherheit von Eingabedaten zu quantifizieren, insbesondere in missionskritischen Bereichen wie autonomen Fahrzeugen und der Gesundheitsversorgung, wo Fehlentscheidungen bei Daten außerhalb der Verteilung (Out-of-Distribution, OOD) gravierende Folgen haben können. Das OOD-Detektionsproblem beruht grundlegend darauf, dass das Modell nicht ausdrücken kann, was es nicht kennt. Post-hoc-OOD-Detektionsansätze werden daher weitgehend erforscht, da sie keine zusätzliche Neutrainingsphase erfordern, die die Leistung des Modells beeinträchtigen und die Trainingskosten erhöhen könnte. In dieser Studie betrachten wir aus der Perspektive der Neuronen in den tiefen Schichten des Modells, die hochwertige Merkmale repräsentieren, eine neue Dimension zur Analyse der Unterschiede im Modellausgang zwischen In-Distribution-Daten und OOD-Daten. Wir stellen eine neuartige Methode namens Leveraging Important Neurons (LINe) für post-hoc-OOD-Detektion vor.Die auf Shapley-Werten basierende Pruning-Strategie reduziert die Auswirkungen verrauschter Ausgaben, indem sie ausschließlich Neuronen mit hohem Beitrag für die Vorhersage bestimmter Klassen auswählt und die übrigen maskiert. Die Aktivierungsclipping-Methode setzt alle Werte oberhalb einer bestimmten Schwelle auf denselben Wert fest, wodurch LINe sicherstellt, dass alle klassenspezifischen Merkmale gleich behandelt werden, und sich lediglich auf den Unterschied in der Anzahl aktivierter Merkmale zwischen In-Distribution- und OOD-Daten konzentriert. Umfassende Experimente bestätigen die Wirksamkeit der vorgeschlagenen Methode, indem sie die Leistung über bestehende State-of-the-Art-Methoden für post-hoc-OOD-Detektion auf den Datensätzen CIFAR-10, CIFAR-100 und ImageNet hinaus übertrifft.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
LINe: Detektion von Außerhalb der Verteilung Liegenden durch Nutzung wichtiger Neuronen | Paper | HyperAI