Jouez-le à nouveau : une attention itérative pour la reconnaissance audio

Une fonction fondamentale de la cognition auditive consiste à associer des sons caractéristiques à leur signification respective au fil du temps. Lorsqu’ils tentent de distinguer entre des catégories audio très fines, les humains ont souvent recours à la répétition de sons discriminants afin d’accroître leur confiance dans leurs prédictions. Nous proposons une architecture end-to-end basée sur l’attention, qui, par une répétition sélective, se concentre sur les sons les plus discriminants au sein de la séquence audio. Notre modèle utilise initialement la séquence audio complète et affine itérativement les segments temporels à répéter grâce à une attention par emplacement (slot attention). À chaque itération, les segments sélectionnés sont répétés avec une longueur de pas réduite, ce qui permet d’extraire des caractéristiques à une résolution plus fine au sein de ces segments. Nous démontrons que notre méthode atteint de manière cohérente des performances de pointe sur trois benchmarks de classification audio : AudioSet, VGG-Sound et EPIC-KITCHENS-100.