Adaptation Rapide avec des Neurones Décalés Conditionnellement

Nous décrivons un mécanisme par lequel les réseaux de neurones artificiels peuvent apprendre l'adaptation rapide – la capacité à s'adapter en temps réel, avec peu de données, à de nouvelles tâches – que nous appelons des neurones décalés conditionnellement. Nous appliquons ce mécanisme dans le cadre de l'apprentissage métadynamique (metalearning), où l'objectif est de reproduire une partie de la flexibilité de l'apprentissage humain dans les machines. Les neurones décalés conditionnellement modifient leurs valeurs d'activation grâce à des décalages spécifiques à la tâche récupérés à partir d'un module mémoire, qui est rapidement rempli sur la base d'une expérience limitée de la tâche. Sur des benchmarks d'apprentissage métadynamique issus des domaines de la vision et du langage, les modèles augmentés avec des neurones décalés conditionnellement obtiennent des résultats d'état de l'art.