HyperAIHyperAI
il y a 13 jours

Un cadre de récupération et de lecture pour la prédiction de liens dans les graphes de connaissances

Vardaan Pahuja, Boshi Wang, Hugo Latapie, Jayanth Srinivasa, Yu Su
Un cadre de récupération et de lecture pour la prédiction de liens dans les graphes de connaissances
Résumé

La prédiction de liens dans les graphes de connaissances (KG) vise à inférer de nouvelles vérités à partir de faits existants dans le KG. Des études récentes ont montré que l’utilisation du voisinage graphique d’un nœud via des réseaux neuronaux graphiques (GNN) fournit des informations plus pertinentes que l’usage exclusif des informations de requête. Les GNN classiques pour la prédiction de liens dans les KG suivent le paradigme standard d’échange de messages sur l’ensemble du graphe, ce qui entraîne un calcul superflu, un sur-lissage des représentations des nœuds, ainsi qu’une limitation de leur pouvoir d’expression. À grande échelle, il devient coûteux en calcul d’agréger des informations utiles issues de l’ensemble du KG pour la phase d’inférence. Pour surmonter les limites des cadres existants de prédiction de liens dans les KG, nous proposons un nouveau cadre « retrieve-and-read » (récupérer et lire), qui commence par extraire un contexte sous-graphe pertinent pour la requête, puis reasonne conjointement sur ce contexte et la requête à l’aide d’un lecteur à haute capacité. Dans le cadre de notre mise en œuvre exemplaire de ce nouveau cadre, nous proposons un nouveau GNN basé sur Transformer comme lecteur, intégrant une structure d’attention basée sur le graphe ainsi qu’une attention croisée entre la requête et le contexte afin d’assurer une fusion profonde. Ce design simple mais efficace permet au modèle de se concentrer sur les informations contextuelles pertinentes et significatives par rapport à la requête. Les résultats expérimentaux sur deux jeux de données standards de prédiction de liens dans les KG démontrent la performance compétitive de la méthode proposée. En outre, notre analyse fournit des aperçus précieux pour concevoir des récupérateurs améliorés au sein de ce cadre.