HyperAIHyperAI
il y a 4 mois

Extraction de multiples relations en une seule passe avec des transformateurs pré-entraînés

Haoyu Wang; Ming Tan; Mo Yu; Shiyu Chang; Dakuo Wang; Kun Xu; Xiaoxiao Guo; Saloni Potdar
Extraction de multiples relations en une seule passe avec des transformateurs pré-entraînés
Résumé

La plupart des approches visant à extraire plusieurs relations d'un paragraphe nécessitent plusieurs passages sur ce paragraphe. En pratique, ces multiples passages sont coûteux en termes de calcul et rendent difficile l'extension à des paragraphes plus longs et à de plus grands corpus textuels. Dans cette étude, nous nous concentrons sur la tâche d'extraction de multiples relations en ne codant le paragraphe qu'une seule fois (en un passage). Nous construisons notre solution sur des modèles pré-entraînés auto-attentifs (Transformers), où nous ajoutons d'abord une couche de prédiction structurée pour gérer l'extraction entre plusieurs paires d'entités, puis améliorons l'embedding du paragraphe pour capturer les informations relationnelles multiples associées à chaque entité grâce à une technique d'attention sensible aux entités. Nous démontrons que notre approche est non seulement évolutrice mais peut également atteindre des performances de pointe sur le benchmark standard ACE 2005.