Tiefe Anomalieerkennung mit Ausreißerexposition

Bei der Bereitstellung von maschinellen Lernsystemen ist es wichtig, anomale Eingaben zu erkennen. Die Verwendung größerer und komplexerer Eingaben im Deep Learning erhöht die Schwierigkeit, zwischen anomalen und in-Verteilungslagen zu unterscheiden. Gleichzeitig sind vielfältige Bilddaten und Textdaten in enormen Mengen verfügbar. Wir schlagen vor, diese Daten zu nutzen, um die tiefgreifende Anomalieerkennung durch das Training von Anomalieerkennern an einem Hilfsdatensatz von Ausreißern zu verbessern. Dieses Vorgehen nennen wir Ausreißerexposition (Outlier Exposure). Es ermöglicht den Anomalieerkennern, sich generalisieren und bisher unbekannte Anomalien zu erkennen. In umfangreichen Experimenten zur natürlichsprachlichen Verarbeitung sowie zu kleineren und größeren visuellen Aufgaben finden wir heraus, dass die Ausreißerexposition die Erkennungsleistung erheblich verbessert. Wir beobachten auch, dass state-of-the-art-generative Modelle, die auf CIFAR-10 trainiert wurden, möglicherweise höheren Wahrscheinlichkeiten für SVHN-Bilder als für CIFAR-10-Bilder zuteilen; wir verwenden die Ausreißerexposition, um dieses Problem abzumildern. Zudem analysieren wir die Flexibilität und Robustheit der Ausreißerexposition und identifizieren Merkmale des Hilfsdatensatzes, die die Leistung verbessern.