HyperAIHyperAI

Command Palette

Search for a command to run...

Augmenter les classificateurs profonds avec des réseaux neuronaux polynomiaux

Grigorios G Chrysos Markos Georgopoulos Jiankang Deng Jean Kossaifi Yannis Panagakis Anima Anandkumar

Résumé

Les réseaux neuronaux profonds ont été le moteur du succès remporté dans les tâches de classification, par exemple pour la reconnaissance d’objets ou d’audio. Des résultats impressionnants et une bonne généralisation ont été obtenus grâce à une variété d’architectures récemment proposées, dont la plupart semblent déconnectées les unes des autres. Dans ce travail, nous présentons une étude unifiée des classificateurs profonds sous un cadre commun. Plus précisément, nous exprimons les architectures de pointe (par exemple les réseaux résiduels et les réseaux non locaux) sous la forme de polynômes de degrés différents appliqués à l’entrée. Ce cadre fournit des insights sur les biais inductifs de chaque modèle et permet des extensions naturelles fondées sur leur nature polynomiale. L’efficacité des modèles proposés est évaluée sur des benchmarks standards de classification d’images et d’audio. L’expressivité des modèles est mise en évidence tant en termes d’amélioration des performances que de compression de modèle. Enfin, les extensions permises par cette taxinomie montrent des avantages particuliers en présence de données limitées et de distributions de données longues en queue. Nous espérons que cette taxinomie établira des liens entre les architectures existantes spécifiques à chaque domaine. Le code source est disponible à l’adresse \url{https://github.com/grigorisg9gr/polynomials-for-augmenting-NNs}.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp