HyperAIHyperAI

Command Palette

Search for a command to run...

SAITS: Selbst-Aufmerksamkeitsbasierte Interpolation für Zeitreihen

Wenjie Du David Cote Yan Liu

Zusammenfassung

Fehlende Daten in Zeitreihen sind ein weit verbreitetes Problem, das fortgeschrittene Analysen behindert. Eine gängige Lösung ist die Imputation, bei der die grundlegende Herausforderung darin besteht, welche Werte eingefügt werden sollten. Dieser Artikel stellt SAITS vor, eine neuartige Methode zur Imputation fehlender Werte in multivariaten Zeitreihen, die auf dem Selbst-Aufmerksamkeitsmechanismus basiert. Durch eine gemeinsame Optimierungsmethode trainiert, lernt SAITS fehlende Werte aus einer gewichteten Kombination von zwei diagonal maskierten Selbst-Aufmerksamkeitsblöcken (DMSA). DMSA erfasst explizit sowohl zeitliche Abhängigkeiten als auch Merkmalskorrelationen zwischen Zeitschritten, was die Imputationsgenauigkeit und die Trainingsgeschwindigkeit verbessert. Gleichzeitig ermöglicht das Design der gewichteten Kombination, dass SAITS dynamisch Gewichte den gelernten Repräsentationen aus den beiden DMSA-Blöcken zuweist, basierend auf der Aufmerksamkeitskarte und den Informationen über Fehlenden. Ausführliche Experimente zeigen quantitativ und qualitativ, dass SAITS effizient die Standesder-Kunst-Methoden bei der Imputation von Zeitreihendaten übertrifft und das Potenzial von SAITS enthüllt, die Lernleistung von Mustererkennungsmodellen auf unvollständigen realweltlichen Zeitreihendaten zu verbessern. Der Code ist auf GitHub unter https://github.com/WenjieDu/SAITS offen zugänglich.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp