SAITS : Imputation basée sur l'auto-attention pour les séries temporelles

Les données manquantes dans les séries temporelles constituent un problème récurrent qui entrave les analyses avancées. Une solution courante est l'imputation, où le défi principal consiste à déterminer quelles valeurs doivent être remplacées. Cet article propose SAITS, une nouvelle méthode basée sur le mécanisme d'auto-attention pour l'imputation des valeurs manquantes dans les séries temporelles multivariées. Formé par une approche d'optimisation conjointe, SAITS apprend les valeurs manquantes à partir d'une combinaison pondérée de deux blocs d'auto-attention masquée diagonalement (DMSA). Le DMSA capture explicitement à la fois les dépendances temporelles et les corrélations entre les caractéristiques au fil des étapes temporelles, ce qui améliore la précision de l'imputation et la vitesse d'apprentissage. Parallèlement, la conception de combinaison pondérée permet à SAITS de répartir dynamiquement les poids aux représentations apprises des deux blocs DMSA en fonction de la carte d'attention et des informations sur les données manquantes. De nombreuses expériences quantitatives et qualitatives montrent que SAITS surpasse efficacement les méthodes de pointe pour la tâche d'imputation des séries temporelles et révèlent le potentiel de SAITS à améliorer les performances d'apprentissage des modèles de reconnaissance de motifs sur des données de séries temporelles incomplètes issues du monde réel. Le code est open source sur GitHub à l'adresse suivante : https://github.com/WenjieDu/SAITS.