Apprentissage de représentations contrastives pour la prédiction dynamique des liens dans les réseaux temporels

Les réseaux évolutifs sont des structures de données complexes qui apparaissent dans une large gamme de systèmes en sciences et en ingénierie. Apprendre des représentations expressives pour ces réseaux, qui codent leur connectivité structurelle et leur évolution temporelle, est essentiel pour les applications d'analyse de données et d'apprentissage automatique en aval. Dans cette étude, nous présentons une méthode auto-supervisée pour l'apprentissage de représentations de réseaux temporels et utilisons ces représentations dans la tâche de prédiction dynamique des liens. Bien que les réseaux temporels soient généralement caractérisés comme une séquence d'interactions sur un domaine temporel continu, notre étude se concentre sur leurs versions à temps discret. Cela nous permet d'équilibrer le compromis entre la complexité computationnelle et la modélisation précise des interactions. Nous proposons une architecture de réseau neuronal à passage de messages récurrent pour modéliser le flux d'information le long des chemins respectant le temps des réseaux temporels. La caractéristique clé de notre méthode est l'objectif d'entraînement contrastif du modèle, qui combine trois fonctions de perte : prédiction des liens, reconstruction du graphe et codage prédictif contrastif (contrastive predictive coding). L'objectif de codage prédictif contrastif est mis en œuvre à l'aide de pertes infoNCE aux échelles locales et globales des graphes d'entrée. Nous montrons empiriquement que les pertes auto-supervisées supplémentaires améliorent l'entraînement et la performance du modèle dans la tâche de prédiction dynamique des liens. La méthode proposée a été testée sur les jeux de données Enron, COLAB et Facebook, et a obtenu des résultats supérieurs par rapport aux modèles existants.