LINe: Detektion von Außerhalb der Verteilung Liegenden durch Nutzung wichtiger Neuronen

Es ist von entscheidender Bedeutung, die Unsicherheit von Eingabedaten zu quantifizieren, insbesondere in missionskritischen Bereichen wie autonomen Fahrzeugen und der Gesundheitsversorgung, wo Fehlentscheidungen bei Daten außerhalb der Verteilung (Out-of-Distribution, OOD) gravierende Folgen haben können. Das OOD-Detektionsproblem beruht grundlegend darauf, dass das Modell nicht ausdrücken kann, was es nicht kennt. Post-hoc-OOD-Detektionsansätze werden daher weitgehend erforscht, da sie keine zusätzliche Neutrainingsphase erfordern, die die Leistung des Modells beeinträchtigen und die Trainingskosten erhöhen könnte. In dieser Studie betrachten wir aus der Perspektive der Neuronen in den tiefen Schichten des Modells, die hochwertige Merkmale repräsentieren, eine neue Dimension zur Analyse der Unterschiede im Modellausgang zwischen In-Distribution-Daten und OOD-Daten. Wir stellen eine neuartige Methode namens Leveraging Important Neurons (LINe) für post-hoc-OOD-Detektion vor.Die auf Shapley-Werten basierende Pruning-Strategie reduziert die Auswirkungen verrauschter Ausgaben, indem sie ausschließlich Neuronen mit hohem Beitrag für die Vorhersage bestimmter Klassen auswählt und die übrigen maskiert. Die Aktivierungsclipping-Methode setzt alle Werte oberhalb einer bestimmten Schwelle auf denselben Wert fest, wodurch LINe sicherstellt, dass alle klassenspezifischen Merkmale gleich behandelt werden, und sich lediglich auf den Unterschied in der Anzahl aktivierter Merkmale zwischen In-Distribution- und OOD-Daten konzentriert. Umfassende Experimente bestätigen die Wirksamkeit der vorgeschlagenen Methode, indem sie die Leistung über bestehende State-of-the-Art-Methoden für post-hoc-OOD-Detektion auf den Datensätzen CIFAR-10, CIFAR-100 und ImageNet hinaus übertrifft.