HyperAIHyperAI
il y a 11 jours

Recherche de fonction de notation bilinéaire pour l'apprentissage des graphes de connaissances

Yongqi Zhang, Quanming Yao, James Tin-Yau Kwok
Recherche de fonction de notation bilinéaire pour l'apprentissage des graphes de connaissances
Résumé

L’apprentissage d’embeddings pour les entités et les relations dans les graphes de connaissances (KG) a permis d’améliorer de nombreuses tâches en aval. Ces dernières années, les fonctions de scoring, qui constituent le cœur de l’apprentissage sur les KG, ont été conçues manuellement afin de mesurer la plausibilité des triplets et de capturer divers types de relations au sein des KG. Toutefois, comme les relations présentent des motifs complexes difficiles à anticiper avant l’entraînement, aucune de ces fonctions ne se révèle systématiquement la meilleure sur les tâches standard. Dans ce papier, inspirés par les récents succès de l’apprentissage automatique (AutoML), nous cherchons des fonctions de scoring bilinéaires adaptées à différentes tâches sur les KG en utilisant des techniques d’AutoML. Toutefois, l’exploration d’informations spécifiques au domaine s’avère non triviale. Nous définissons tout d’abord un espace de recherche pour AutoBLM en analysant les fonctions de scoring existantes. Ensuite, nous proposons un algorithme progressif (AutoBLM) et un algorithme évolutionnaire (AutoBLM+), qui sont accélérés respectivement par un filtre et un prédicteur afin de tenir compte des propriétés spécifiques au domaine dans l’apprentissage sur les KG. Enfin, nous menons des expérimentations approfondies sur des benchmarks couvrant les tâches de complétion de KG, de requêtes multi-étapes et de classification d’entités. Les résultats expérimentaux montrent que les fonctions de scoring recherchées sont dépendantes du KG, nouvelles par rapport à la littérature, et surpassent les fonctions existantes. AutoBLM+ se révèle supérieur à AutoBLM, car l’algorithme évolutionnaire permet une exploration plus souple de structures optimales dans le même budget.

Recherche de fonction de notation bilinéaire pour l'apprentissage des graphes de connaissances | Articles de recherche récents | HyperAI