Ask2Transformers : Étiquetage de domaine à zéro coup avec des modèles de langage pré-entraînés

Dans cet article, nous présentons un système qui exploite différents modèles de langage pré-entraînés pour attribuer des étiquettes de domaine aux synsets de WordNet sans aucune forme de supervision. De plus, le système n'est pas limité à l'utilisation d'un ensemble particulier d'étiquettes de domaine. Nous utilisons les connaissances codées au sein de différents modèles de langage pré-entraînés prêts à l'emploi et des formulations de tâches pour inférer l'étiquette de domaine d'une définition particulière de WordNet. Le système proposé, fonctionnant en zero-shot (apprentissage par zéro exemple), atteint un nouveau niveau d'état de l'art sur l'ensemble de données anglais utilisé pour l'évaluation.