Routage Dynamique Entre Capsules

Une capsule est un groupe de neurones dont le vecteur d'activité représente les paramètres d'instanciation d'une entité spécifique, telle qu'un objet ou une partie d'objet. Nous utilisons la longueur du vecteur d'activité pour représenter la probabilité que l'entité existe et son orientation pour représenter les paramètres d'instanciation. Les capsules actives à un niveau font des prédictions, par le biais de matrices de transformation, pour les paramètres d'instanciation des capsules de niveau supérieur. Lorsque plusieurs prédictions sont en accord, une capsule de niveau supérieur devient active. Nous montrons qu'un système multicouche de capsules entraîné de manière discriminative atteint des performances de pointe sur MNIST et est considérablement meilleure qu'un réseau convolutif pour reconnaître des chiffres fortement chevauchants. Pour obtenir ces résultats, nous utilisons un mécanisme itératif de routage par accord : une capsule de niveau inférieur préfère envoyer sa sortie à des capsules de niveau supérieur dont les vecteurs d'activité ont un grand produit scalaire avec la prédiction émanant de la capsule de niveau inférieur.