HyperAIHyperAI
vor 2 Monaten

SAITS: Selbst-Aufmerksamkeitsbasierte Interpolation für Zeitreihen

Wenjie Du; David Cote; Yan Liu
SAITS: Selbst-Aufmerksamkeitsbasierte Interpolation für Zeitreihen
Abstract

Fehlende Daten in Zeitreihen sind ein weit verbreitetes Problem, das fortgeschrittene Analysen behindert. Eine gängige Lösung ist die Imputation, bei der die grundlegende Herausforderung darin besteht, welche Werte eingefügt werden sollten. Dieser Artikel stellt SAITS vor, eine neuartige Methode zur Imputation fehlender Werte in multivariaten Zeitreihen, die auf dem Selbst-Aufmerksamkeitsmechanismus basiert. Durch eine gemeinsame Optimierungsmethode trainiert, lernt SAITS fehlende Werte aus einer gewichteten Kombination von zwei diagonal maskierten Selbst-Aufmerksamkeitsblöcken (DMSA). DMSA erfasst explizit sowohl zeitliche Abhängigkeiten als auch Merkmalskorrelationen zwischen Zeitschritten, was die Imputationsgenauigkeit und die Trainingsgeschwindigkeit verbessert. Gleichzeitig ermöglicht das Design der gewichteten Kombination, dass SAITS dynamisch Gewichte den gelernten Repräsentationen aus den beiden DMSA-Blöcken zuweist, basierend auf der Aufmerksamkeitskarte und den Informationen über Fehlenden. Ausführliche Experimente zeigen quantitativ und qualitativ, dass SAITS effizient die Standesder-Kunst-Methoden bei der Imputation von Zeitreihendaten übertrifft und das Potenzial von SAITS enthüllt, die Lernleistung von Mustererkennungsmodellen auf unvollständigen realweltlichen Zeitreihendaten zu verbessern. Der Code ist auf GitHub unter https://github.com/WenjieDu/SAITS offen zugänglich.

SAITS: Selbst-Aufmerksamkeitsbasierte Interpolation für Zeitreihen | Neueste Forschungsarbeiten | HyperAI