TiM4Rec : un modèle de recommandation séquentielle efficace basé sur un modèle d’espace d’état structuré sensible au temps

Le paradigme de modélisation des recommandations séquentielles évolue progressivement de l’architecture Transformer vers l’architecture Mamba, qui se décline en deux générations : Mamba1, basé sur le modèle d’espace d’état (SSM), et Mamba2, fondé sur la dualité d’espace d’état (SSD). Bien que SSD présente une efficacité computationnelle supérieure à SSM, il souffre d’une dégradation des performances dans les tâches de recommandation séquentielle, en particulier dans les scénarios à faible dimension, qui sont cruciaux pour ces applications. Étant donné que les méthodes d’amélioration sensible au temps sont couramment utilisées pour atténuer cette perte de performance, notre analyse révèle que la dégradation des performances de SSD peut être fondamentalement compensée en exploitant les mécanismes inhérents aux méthodes sensibles au temps. Nous proposons donc d’intégrer une capacité sensible au temps dans le cadre SSD afin de remédier à ces problèmes de performance. Toutefois, l’intégration des méthodes sensibles au temps actuelles, inspirées de TiSASRec, au sein de l’architecture SSD soulève deux défis majeurs : 1) la complexité de l’association de ces mécanismes issus du Transformer avec l’architecture SSD, et 2) l’inefficacité computationnelle induite par la nécessité d’élargir la dimension pour le traitement des différences temporelles. Pour surmonter ces difficultés, nous introduisons une nouvelle matrice structurée masquée sensible au temps, permettant une intégration efficace de la sensibilité temporelle dans SSD. Sur cette base, nous proposons TiM4Rec (Time-Aware Mamba for Recommendation), un modèle qui atténue la dégradation des performances dans les contextes SSD à faible dimension tout en préservant une efficacité computationnelle élevée. Il s’agit du premier usage d’une méthode d’amélioration sensible au temps spécifiquement conçue pour l’architecture Mamba dans le domaine de la recommandation séquentielle. Des expérimentations étendues menées sur trois jeux de données réels démontrent clairement l’efficacité supérieure de notre approche. Le code de notre modèle est disponible à l’adresse suivante : https://github.com/AlwaysFHao/TiM4Rec.