Vers des réseaux de capsules évolutifs et fiables pour des applications NLP complexes

Les obstacles entravant le développement des réseaux de capsules pour des applications NLP complexes incluent une mauvaise évolutivité vers de grands espaces de sortie et des processus de routage moins fiables. Dans cet article, nous présentons : 1) un score d'accord pour évaluer les performances des processus de routage au niveau individuel ; 2) un optimiseur adaptatif pour améliorer la fiabilité du routage ; 3) une compression de capsules et un routage partiel pour renforcer l'évolutivité des réseaux de capsules. Nous validons notre approche sur deux tâches NLP, à savoir : la classification textuelle multi-étiquettes et la réponse aux questions. Les résultats expérimentaux montrent que notre approche améliore considérablement les performances par rapport à des concurrents solides sur les deux tâches. De plus, nous obtenons les meilleurs résultats dans des configurations à ressources limitées avec peu d'instances d'entraînement.