Command Palette
Search for a command to run...
PathMind : un cadre Retrieve-Prioritize-Reason pour le raisonnement sur les graphes de connaissances avec les modèles de langage à grande échelle
Yu Liu Xixun Lin Yanmin Shang Yangxi Li Shi Wang Yanan Cao

Résumé
Le raisonnement sur les graphes de connaissances (KGR) consiste à inférer de nouvelles connaissances en effectuant des déductions logiques sur des graphes de connaissances. Récemment, les grands modèles linguistiques (LLM) ont fait preuve d’une performance remarquable sur des tâches de raisonnement complexes. Malgré ces résultats prometteurs, les méthodes actuelles de KGR basées sur les LLM font face à deux limitations critiques. Premièrement, les approches existantes extraient souvent des chemins de raisonnement de manière indiscriminée, sans évaluer leur importance respective, ce qui peut introduire du bruit pertinent et induire en erreur les LLM. Deuxièmement, bien que de nombreuses méthodes utilisent les LLM pour explorer dynamiquement des chemins de raisonnement potentiels, elles nécessitent des exigences élevées en récupération de données et des appels fréquents aux LLM. Pour surmonter ces limitations, nous proposons PathMind, un cadre novateur conçu pour améliorer le raisonnement fidèle et interprétable en guidant de manière sélective les LLM par des chemins de raisonnement essentiels. Plus précisément, PathMind suit une approche en trois étapes : « Récupérer – Prioriser – Raisonnement ». Tout d’abord, il extrait un sous-graphe de requête à partir du graphe de connaissances via un module de récupération. Ensuite, il introduit un mécanisme de priorisation des chemins qui identifie les chemins de raisonnement importants à l’aide d’une fonction de priorité sémantique, prenant simultanément en compte le coût accumulé et le coût estimé à venir pour atteindre la cible. Enfin, PathMind génère des réponses précises et logiquement cohérentes grâce à une stratégie d’entraînement en deux phases, comprenant une mise au point par instruction spécifique à la tâche et une alignement préférentiel par chemin. Des expériences étendues sur des jeux de données de référence montrent que PathMind dépasse de manière cohérente les méthodes de référence compétitives, notamment dans les tâches de raisonnement complexes avec un nombre réduit de jetons d’entrée, en identifiant efficacement les chemins de raisonnement essentiels.
Construire l'IA avec l'IA
De l'idée au lancement — accélérez votre développement IA avec du co-codage IA gratuit, un environnement prêt à l'emploi et les meilleurs prix GPU.