Eingeschränkte adaptive Projektion mit vortrainierten Merkmalen für die Anomalieerkennung

Die Anomalieerkennung zielt darauf ab, Anomalien von normalen Beispielen zu trennen, und prätrainierte Netzwerke erweisen sich als vielversprechend für diese Aufgabe. Bei der Anpassung prätrainierter Merkmale besteht jedoch die Gefahr eines Musterzusammenbruchs (pattern collapse), insbesondere bei der Feinabstimmung auf einklassige Trainingsdaten. In diesem Artikel stellen wir einen Anomalieerkennungsrahmen namens constrained adaptive projection with pretrained features (CAP) vor. In Kombination mit prätrainierten Merkmalen wird ein einfacher linearer Projektionskopf entworfen, der auf einem spezifischen Eingabedatenpunkt und seinen k ähnlichsten prätrainierten normalen Repräsentationen angewendet wird, um die Merkmalsanpassung zu ermöglichen. Zudem wird eine überarbeitete Selbst-Attention-Struktur eingesetzt, um die inneren Beziehungen zwischen einklassigen semantischen Merkmalen zu erschließen. Eine neue Verlustfunktion wird vorgeschlagen, um potenziellen Musterzusammenbruch zu vermeiden. Konkret berücksichtigt sie die Ähnlichkeit zwischen einem spezifischen Datensatz und seiner entsprechenden angepassten normalen Repräsentation und integriert einen Nebenbedingungsterm, der die Ausrichtung zwischen prätrainiertem und angepasstem Merkmalsraum leicht fördert. Unser Ansatz erreicht state-of-the-art Ergebnisse bei der semantischen und sensorischen Anomalieerkennung, darunter 96,5 % AUROC auf dem CIFAR-100-Datensatz, 97,0 % AUROC auf CIFAR-10 und 89,9 % AUROC auf dem MvTec-Datensatz.