HyperAIHyperAI

Command Palette

Search for a command to run...

Plongement conjoint des mots et des étiquettes pour la classification de texte

Shen, Zhiyuan Joulin, Armand Jiang, Yiming

Résumé

Les plongements de mots (word embeddings) sont des représentations intermédiaires efficaces pour capturer les régularités sémantiques entre les mots lors de l'apprentissage des représentations de séquences textuelles. Nous proposons d'aborder la classification de texte comme un problème de plongement conjoint étiquette-mot : chaque étiquette est plongée dans le même espace que les vecteurs de mots. Nous introduisons un cadre d'attention qui mesure la compatibilité des plongements entre les séquences textuelles et les étiquettes. Cette attention est apprise sur un ensemble d'entraînement composé d'échantillons étiquetés afin de garantir que, pour une séquence textuelle donnée, les mots pertinents soient pondérés plus fortement que ceux qui ne le sont pas. Notre méthode préserve l'interprétabilité des plongements de mots et bénéficie d'une capacité intrinsèque à exploiter des sources alternatives d'information, en plus des séquences textuelles d'entrée. Des résultats exhaustifs sur plusieurs grands ensembles de données textuelles montrent que le cadre proposé surpasser largement les méthodes de pointe en termes de précision et de vitesse.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Plongement conjoint des mots et des étiquettes pour la classification de texte | Articles | HyperAI