HyperAIHyperAI

Command Palette

Search for a command to run...

Désambiguïsation du sens des mots avec des modèles Transformer

Ron Daniel Jr. Tony Scerri Pierre-Yves Vandenbussche

Résumé

Dans cet article, nous abordons la tâche de désambiguïsation des sens des mots (Word Sense Disambiguation, WSD). Nous présentons notre système soumis au défi de vérification du sens cible dans le contexte du mot (Word-in-Context Target Sense Verification), organisé dans le cadre du atelier SemDeep lors de la conférence IJCAI 2020 (Breit et al., 2020). Ce défi consiste à prédire si un usage spécifique d’un mot dans un texte correspond à un sens prédéfini. Notre approche repose sur des modèles pré-entraînés de type transformateur, tels que BERT, qui sont affinés sur la tâche en utilisant différentes stratégies d’architecture. Notre modèle obtient la meilleure précision et le meilleur taux de justesse sur la Sous-tâche 1, qui consiste à utiliser les définitions pour déterminer si le mot cible dans son contexte correspond ou non au sens donné. Nous pensons que les stratégies explorées dans le cadre de ce défi pourraient s’avérer utiles pour d’autres tâches de traitement automatique du langage naturel.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Désambiguïsation du sens des mots avec des modèles Transformer | Articles | HyperAI