PANDA: Anpassung vortrainierter Merkmale für die Anomalieerkennung und Segmentierung

Anomalieerkennungsmethoden erfordern hochwertige Merkmale. In den letzten Jahren hat die Anomalieerkennungsgemeinschaft versucht, durch Fortschritte im Bereich des tiefen selbstüberwachten Merkmalslernens verbesserte Merkmale zu erzielen. Überraschenderweise wurde ein sehr vielversprechender Ansatz – die Nutzung vortrainierter tiefer Merkmale – weitgehend übersehen. In diesem Paper zeigen wir zunächst empirisch, dass die Kombination vortrainierter Merkmale mit einfachen Anomalieerkennungs- und Segmentierungsmethoden, trotz des vermeintlich unerwarteten Ergebnisses, überzeugend bessere Leistungen erzielt als viel komplexere, state-of-the-art-Methoden – ein Ergebnis, das bisher nicht dokumentiert wurde.Um zusätzliche Leistungssteigerungen in der Anomalieerkennung zu erzielen, adaptieren wir die vortrainierten Merkmale an die Zielverteilung. Obwohl Transfer-Learning-Methoden in Mehrklassen-Klassifikationsaufgaben gut etabliert sind, ist der einklassige Klassifikationsansatz (OCC, one-class classification) weniger erforscht. Es zeigt sich, dass herkömmliche Anpassungsstrategien, die in überwachten Lernansätzen typischerweise gut funktionieren, im OCC-Kontext oft zu einem katastrophalen Kollaps (Merkmalsverschlechterung) führen und somit die Leistung beeinträchtigen. Eine gängige OCC-Methode, DeepSVDD, empfiehlt die Verwendung spezialisierter Architekturen, was jedoch die Leistungssteigerung durch Adaptation einschränkt. Wir schlagen zwei Methoden zur Bekämpfung des Kollapses vor: i) eine Variante des frühen Stoppens, die dynamisch die Stoppposition erlernt, und ii) eine elastische Regularisierung, inspiriert durch das kontinuierliche Lernen. Unser Ansatz, PANDA, übertrifft die state-of-the-art-Methoden in OCC-, Outlier-Exposure- und Anomalie-Segmentierungs-Szenarien deutlich.