TranAD: Deep Transformer Networks zur Anomalieerkennung in multivariaten Zeitreihendaten

Die effiziente Anomalieerkennung und -diagnose in multivariaten Zeitreihendaten ist für moderne industrielle Anwendungen von großer Bedeutung. Die Entwicklung eines Systems, das anomale Beobachtungen schnell und präzise identifizieren kann, stellt jedoch eine herausfordernde Aufgabe dar. Dies liegt an der fehlenden Verfügbarkeit von Anomalietags, der hohen Datenvolatilität sowie den Anforderungen an extrem niedrige Inferenzzeiten in modernen Anwendungen. Trotz der jüngsten Fortschritte in der Anwendung tiefen Lernens für die Anomalieerkennung können nur wenige Ansätze all diese Herausforderungen gleichzeitig bewältigen. In diesem Artikel stellen wir TranAD vor, ein tiefes Transformer-Netzwerk-basiertes Modell zur Anomalieerkennung und -diagnose, das auf attention-basierten Sequenz-Encodern beruht, um durch die Berücksichtigung umfassender zeitlicher Trends eine schnelle Inferenz zu ermöglichen. TranAD nutzt selbstbedingte Anpassung auf Basis von Fokus-Scores zur robusten Extraktion mehrdimensionaler Merkmale und setzt adversariales Training ein, um Stabilität zu gewährleisten. Zudem ermöglicht das modellunabhängige Meta-Lernen (MAML), das Modell mit begrenzten Daten zu trainieren. Umfangreiche empirische Studien an sechs öffentlich verfügbaren Datensätzen zeigen, dass TranAD state-of-the-art-Baselines in Bezug auf Erkennungs- und Diagnoseleistung übertrifft, wobei sowohl daten- als auch zeit-effizientes Training erreicht wird. Insbesondere steigert TranAD die F1-Scores um bis zu 17 % und reduziert die Trainingszeiten gegenüber den Baselines um bis zu 99 %.