HyperAIHyperAI

Command Palette

Search for a command to run...

SAITS : Imputation basée sur l'auto-attention pour les séries temporelles

Wenjie Du David Cote Yan Liu

Résumé

Les données manquantes dans les séries temporelles constituent un problème récurrent qui entrave les analyses avancées. Une solution courante est l'imputation, où le défi principal consiste à déterminer quelles valeurs doivent être remplacées. Cet article propose SAITS, une nouvelle méthode basée sur le mécanisme d'auto-attention pour l'imputation des valeurs manquantes dans les séries temporelles multivariées. Formé par une approche d'optimisation conjointe, SAITS apprend les valeurs manquantes à partir d'une combinaison pondérée de deux blocs d'auto-attention masquée diagonalement (DMSA). Le DMSA capture explicitement à la fois les dépendances temporelles et les corrélations entre les caractéristiques au fil des étapes temporelles, ce qui améliore la précision de l'imputation et la vitesse d'apprentissage. Parallèlement, la conception de combinaison pondérée permet à SAITS de répartir dynamiquement les poids aux représentations apprises des deux blocs DMSA en fonction de la carte d'attention et des informations sur les données manquantes. De nombreuses expériences quantitatives et qualitatives montrent que SAITS surpasse efficacement les méthodes de pointe pour la tâche d'imputation des séries temporelles et révèlent le potentiel de SAITS à améliorer les performances d'apprentissage des modèles de reconnaissance de motifs sur des données de séries temporelles incomplètes issues du monde réel. Le code est open source sur GitHub à l'adresse suivante : https://github.com/WenjieDu/SAITS.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
SAITS : Imputation basée sur l'auto-attention pour les séries temporelles | Articles | HyperAI