HyperAIHyperAI
il y a 17 jours

Décodage par poset hiérarchique pour la généralisation compositionnelle dans le langage

Yinuo Guo, Zeqi Lin, Jian-Guang Lou, Dongmei Zhang
Décodage par poset hiérarchique pour la généralisation compositionnelle dans le langage
Résumé

Nous formalisons la compréhension du langage humain comme une tâche de prédiction structurée dont la sortie est un ensemble partiellement ordonné (poset). Les architectures encodage-décodage actuelles ne prennent pas correctement en compte la structure de poset sémantique, ce qui entraîne une faible capacité de généralisation compositionnelle. Dans cet article, nous proposons un nouveau paradigme hiérarchique de décodage de poset pour améliorer la généralisation compositionnelle dans le langage. Intuitivement : (1) le paradigme proposé impose une invariance par permutation partielle sur les sémantiques, évitant ainsi le surapprentissage aux informations d'ordre biaisées ; (2) le mécanisme hiérarchique permet de capturer les structures de haut niveau des posets. Nous évaluons notre décodeur proposé sur le jeu de données Compositional Freebase Questions (CFQ), un ensemble de questions en langage naturel de grande taille et réaliste, spécifiquement conçu pour mesurer la généralisation compositionnelle. Les résultats montrent que notre approche surpasse les décodeurs actuels.

Décodage par poset hiérarchique pour la généralisation compositionnelle dans le langage | Articles de recherche récents | HyperAI