Prévision à long terme par séries avec Query Selector – modèle efficace à attention creuse

Plusieurs variantes du modèle TRANSFORMER ont récemment été utilisées pour résoudre le problème de prévision de séries temporelles. Nous proposons Query Selector, un algorithme efficace et déterministe permettant de construire une matrice d’attention creuse. Les expérimentations montrent qu’il atteint des résultats de pointe sur les jeux de données ETT, Helpdesk et BPI'12.