Un réseau neuronal graphique basé sur l'attention pour l'apprentissage structurel hétérogène

Dans cet article, nous nous concentrons sur l'apprentissage de la représentation graphique des réseaux d'information hétérogènes (HIN), dans lesquels différents types de sommets sont connectés par diverses relations. La plupart des méthodes existantes appliquées aux HIN modifient les modèles d'incrustation de graphes homogènes à travers des méta-chemins pour apprendre un espace vectoriel de faible dimension des HIN. Dans ce travail, nous proposons un nouveau réseau neuronal à attention structurale pour graphes hétérogènes (HetSANN) qui encode directement les informations structurelles des HIN sans utiliser de méta-chemins, permettant ainsi d'obtenir des représentations plus informatives. Avec cette méthode, les experts du domaine ne seront pas nécessaires pour concevoir des schémas de méta-chemins et l'information hétérogène pourra être traitée automatiquement par notre modèle proposé. Plus précisément, nous représentons implicitement l'information hétérogène en utilisant les deux méthodes suivantes : 1) nous modélisons la transformation entre les sommets hétérogènes par une projection dans des espaces entités de faible dimension ; 2) ensuite, nous appliquons le réseau neuronal graphique pour agréger l'information multi-relationnelle du voisinage projeté grâce au mécanisme d'attention. Nous présentons également trois extensions de HetSANN : une attention produit partagée entre paires pour les relations binaires dans le HIN, une perte de cohérence cyclique pour maintenir la transformation entre les espaces entités hétérogènes, et un apprentissage multi-tâches utilisant pleinement l'information. Les expériences menées sur trois jeux de données publics démontrent que nos modèles proposés réalisent des améliorations significatives et cohérentes par rapport aux solutions de pointe actuelles.