Réseaux de Filtres Dynamiques

Dans une couche de convolution traditionnelle, les filtres appris restent fixes après l'entraînement. En revanche, nous présentons un nouveau cadre, le Réseau de Filtres Dynamiques (Dynamic Filter Network), où les filtres sont générés dynamiquement en fonction de l'entrée. Nous montrons que cette architecture est puissante, offrant une flexibilité accrue grâce à sa nature adaptative, sans pour autant entraîner une augmentation excessive du nombre de paramètres du modèle. Une grande variété d'opérations de filtrage peuvent être apprises de cette manière, y compris des transformations spatiales locales, mais aussi d'autres comme le flou (déflouage) sélectif ou l'extraction de caractéristiques adaptative. De plus, plusieurs couches de ce type peuvent être combinées, par exemple dans une architecture récurrente. Nous démontrons l'efficacité du réseau de filtres dynamiques sur les tâches de prédiction vidéo et stéréoscopique, et atteignons des performances au niveau de l'état de l'art sur le jeu de données MNIST en mouvement avec un modèle beaucoup plus petit. En visualisant les filtres appris, nous illustrons que le réseau a capturé des informations sur le flux en ne regardant que des données d'entraînement non étiquetées. Cela suggère que le réseau peut être utilisé pour pré-entraîner des réseaux destinés à diverses tâches supervisées d'une manière non supervisée, comme l'estimation du flux optique et la détermination de la profondeur.