Command Palette
Search for a command to run...
AsymmNet : Vers des réseaux de neurones convolutionnels ultralégers grâce à des embouts asymétriques
AsymmNet : Vers des réseaux de neurones convolutionnels ultralégers grâce à des embouts asymétriques
Haojin Yang Zhen Shen Yucheng Zhao
Résumé
Les réseaux neuronaux convolutifs profonds (CNN) ont obtenu des résultats remarquables dans un grand nombre d'applications. Toutefois, leur utilisation sur des dispositifs mobiles ou embarqués reste difficile en raison des ressources mémoire et de calcul limitées. Récemment, le bloc résiduel inversé est devenu la solution dominante pour la conception d'architectures de CNN compactes. Dans ce travail, nous avons mené une étude approfondie des concepts de conception existants, en repensant les caractéristiques fonctionnelles des deux convolutions ponctuelles présentes dans les blocs résiduels inversés. Nous proposons une nouvelle architecture, appelée « goulets asymétriques ». Plus précisément, nous ajustons la dimension de la première convolution ponctuelle, enrichissons le flux d'information grâce à une réutilisation des caractéristiques, et transférons les calculs économisés vers la deuxième convolution ponctuelle. Grâce à cette approche, nous améliorons davantage la précision sans augmenter la charge computationnelle. Les goulets asymétriques peuvent être utilisés comme remplacement direct des blocs CNN existants. Nous pouvons ainsi construire AsymmNet en empilant simplement ces blocs selon des conditions appropriées en profondeur et en largeur. Des expérimentations étendues démontrent que notre conception de bloc est plus avantageuse que les goulets résiduels inversés originaux pour les réseaux mobiles, en particulier dans le cas des CNN ultralégers dont la charge computationnelle est inférieure à 220 M MAdds. Le code est disponible à l'adresse suivante : https://github.com/Spark001/AsymmNet