Command Palette
Search for a command to run...
Réseau de capsules à codage compositionnel avec routage K-moyennes pour la classification de texte
Réseau de capsules à codage compositionnel avec routage K-moyennes pour la classification de texte
Hao Ren Hong Lu
Résumé
La classification de texte est un problème complexe visant à identifier la catégorie des textes. Au cours du processus d'entraînement, les plongements de mots (word embeddings) occupent une grande partie des paramètres. Dans le contexte de ressources informatiques limitées, cela limite indirectement les capacités des architectures de réseau ultérieures. Pour réduire le nombre de paramètres, un mécanisme de codage compositionnel a été proposé récemment. Sur cette base, cet article explore davantage le codage compositionnel et propose une méthode de codage pondéré compositionnel. Nous appliquons également un réseau capsulaire pour modéliser la relation entre les plongements de mots, en proposant un nouvel algorithme de routage basé sur la théorie du clustering k-means, afin d'exploiter pleinement la relation entre ces plongements. En combinant notre méthode de codage pondéré compositionnel et l'algorithme de routage, nous concevons un réseau neuronal pour la classification de texte. Les expériences menées sur huit jeux de données complexes pour la classification de texte montrent que la méthode proposée atteint une précision compétitive par rapport aux approches les plus avancées actuellement disponibles, tout en utilisant significativement moins de paramètres.