Augmenter les classificateurs profonds avec des réseaux neuronaux polynomiaux

Les réseaux neuronaux profonds ont été le moteur du succès remporté dans les tâches de classification, par exemple pour la reconnaissance d’objets ou d’audio. Des résultats impressionnants et une bonne généralisation ont été obtenus grâce à une variété d’architectures récemment proposées, dont la plupart semblent déconnectées les unes des autres. Dans ce travail, nous présentons une étude unifiée des classificateurs profonds sous un cadre commun. Plus précisément, nous exprimons les architectures de pointe (par exemple les réseaux résiduels et les réseaux non locaux) sous la forme de polynômes de degrés différents appliqués à l’entrée. Ce cadre fournit des insights sur les biais inductifs de chaque modèle et permet des extensions naturelles fondées sur leur nature polynomiale. L’efficacité des modèles proposés est évaluée sur des benchmarks standards de classification d’images et d’audio. L’expressivité des modèles est mise en évidence tant en termes d’amélioration des performances que de compression de modèle. Enfin, les extensions permises par cette taxinomie montrent des avantages particuliers en présence de données limitées et de distributions de données longues en queue. Nous espérons que cette taxinomie établira des liens entre les architectures existantes spécifiques à chaque domaine. Le code source est disponible à l’adresse \url{https://github.com/grigorisg9gr/polynomials-for-augmenting-NNs}.