Routage Dynamique Rapide Basé sur l'Estimation de Densité de Noyau Pondérée

Les capsules, ainsi que le routage dynamique entre elles, sont des structures récemment proposées pour les réseaux de neurones profonds. Une capsule regroupe les données en vecteurs ou matrices appelés poses, plutôt qu'en scalaires traditionnels, afin de représenter des propriétés spécifiques d'une instance cible. Outre la pose, une capsule doit être associée à une probabilité (souvent notée comme l'activation) indiquant sa présence. Le routage dynamique aide les capsules à atteindre une capacité de généralisation plus importante avec beaucoup moins de paramètres du modèle. Cependant, le goulot d'étranglement qui empêche l'application généralisée des capsules est le coût élevé des calculs lors du routage. Pour résoudre ce problème, nous généralisons les méthodes de routage existantes dans le cadre de l'estimation de densité par noyau pondéré et proposons deux méthodes de routage rapides avec différentes stratégies d'optimisation. Nos méthodes améliorent l'efficacité temporelle du routage d'environ 40 % sans dégradation notable des performances. En empilant un hybride de couches convolutionnelles et de couches de capsules, nous construisons une architecture réseau capable de traiter des entrées à une résolution de $64 \times 64$ pixels. Les modèles proposés atteignent des performances comparables à celles des autres méthodes avancées dans plusieurs benchmarks.