Typage d'entités ultra-fines avec une supervision indirecte issue de l'inférence linguistique naturelle

La tâche de typage d'entités ultra-fines (UFET) vise à prédire des mots ou expressions diverses et libres qui décrivent les types appropriés des entités mentionnées dans des phrases. Un défi majeur de cette tâche réside dans le grand nombre de types et la rareté des données annotées par type. Les systèmes existants formulent cette tâche comme un problème de classification multi-classes et entraînent directement ou de manière distante des classificateurs. Cela entraîne deux problèmes : (i) les classificateurs ne captent pas sémantiquement les types, car ceux-ci sont souvent transformés en indices ; (ii) les systèmes développés de cette manière sont limités à la prédiction dans un ensemble de types prédéfini, et peinent souvent à généraliser aux types peu fréquents ou inconnus durant l'entraînement. Ce travail présente LITE, une nouvelle approche qui reformule le typage d'entités comme un problème d'inférence sur le langage naturel (NLI), exploitant (i) la supervision indirecte issue de l'inférence sur le langage naturel pour extraire de manière significative des informations de type représentées sous forme d'hypothèses textuelles, atténuant ainsi le problème de la rareté des données, ainsi que (ii) une objectif d'apprentissage par classement pour éviter de fixer à l'avance un ensemble de types. Les expériences montrent que, avec des données d'entraînement limitées, LITE atteint des performances de pointe sur la tâche UFET. En outre, LITE démontre une forte capacité de généralisation, non seulement en obtenant les meilleurs résultats sur d'autres benchmarks de typage d'entités à fort grain, mais surtout en ce que même un système LITE pré-entraîné fonctionne efficacement sur de nouvelles données contenant des types inconnus.