vor 11 Tagen
Langzeitreihenvorhersage mit Query Selector – effizientes Modell der sparsen Aufmerksamkeit
Jacek Klimek, Jakub Klimek, Witold Kraskiewicz, Mateusz Topolewski

Abstract
Kürzlich wurden verschiedene Modifikationen des TRANSFORMER-Modells zur Lösung von Zeitreihenvorhersageproblemen eingesetzt. Wir stellen den Query Selector vor – einen effizienten, deterministischen Algorithmus für spärliche Aufmerksamkeitsmatrizen. Experimente zeigen, dass er auf den Datensätzen ETT, Helpdesk und BPI'12 Ergebnisse auf State-of-the-Art-Niveau erzielt.