Hybridisierung von Capsule- und LSTM-Netzwerken zur unsupervised Anomalieerkennung auf multivariaten Daten

Neuere Ansätze des Deep Learning haben sich im Bereich der Anomalieerkennung als vielversprechend erwiesen und bieten im Vergleich zu traditionellen statistischen Modellierungs- und signalverarbeitungsbasierten Methoden eine flexible und effektive Möglichkeit zur Modellierung von Systemen. Dennoch stehen Neuronale Netze (NN) vor einer Reihe gut dokumentierter Herausforderungen, darunter ihre Generalisierungsfähigkeit, die Notwendigkeit großer Mengen an gelabelten Daten zur effektiven Trainingsdurchführung sowie die Schwierigkeit, räumliche Zusammenhänge in den Daten zu erfassen. In diesem Beitrag wird eine neuartige NN-Architektur vorgestellt, die die Long-Short-Term-Memory-(LSTM)- und Capsule-Netzwerke in einem einzigen Netzwerk innerhalb einer verzweigten Eingabemodell-Autoencoder-Architektur kombiniert, um multivariate Zeitreihendaten zu verarbeiten. Der vorgeschlagene Ansatz nutzt eine unsupervisierte Lernmethode, um die Probleme im Zusammenhang mit der Notwendigkeit großer Mengen an gelabelten Trainingsdaten zu überwinden. Experimentelle Ergebnisse zeigen, dass die Verwendung von Capsules ohne Hyperparameter-Optimierung die Überanpassung deutlich reduziert und die Trainingseffizienz verbessert. Zudem belegen die Ergebnisse, dass verzweigte Eingabemodelle im Vergleich zu nicht-verzweigten Modellen multivariate Daten konsistenter lernen können, unabhängig davon, ob Capsules eingesetzt werden oder nicht. Die vorgeschlagene Modellarchitektur wurde zudem an einem Open-Source-Benchmark getestet, wo sie eine state-of-the-art-Leistung bei der Erkennung von Ausreißern erzielte und insgesamt die besten Ergebnisse über alle getesteten Metriken im Vergleich zu aktuellen state-of-the-art-Methoden erbrachte.