Classificateur d’image efficace basé sur une architecture neuronale généralisée et consciente du classement global

La Recherche d'Architecture Neuropostale (NAS) est un outil puissant pour automatiser la conception d'architectures efficaces de réseaux de neurones profonds (DNN) destinés au traitement d'images. Le classement a été proposé comme une approche pour concevoir un prédicteur de performance efficace dans le cadre de la NAS. Les méthodes précédentes basées sur la contraste résolvent le problème de classement en comparant des paires d'architectures et en prédisant leur performance relative. Toutefois, ces approches se concentrent uniquement sur les classements entre deux architectures spécifiques, négligeant ainsi la distribution globale des qualités au sein de l'espace de recherche, ce qui peut entraîner des problèmes de généralisation. Pour surmonter ces limites liées à une perspective locale, nous proposons un nouveau prédicteur, nommé Neural Architecture Ranker (NAR), qui se concentre sur le niveau de qualité global d'une architecture donnée. Le NAR explore de manière globale les niveaux de qualité de l'espace de recherche et classe chaque architecture selon son rang global, l'assignant ainsi à la catégorie de qualité correspondante. Grâce à cette approche, le prédicteur acquiert une connaissance approfondie de la distribution des performances dans l'espace de recherche, ce qui améliore sa capacité à généraliser ses prédictions sur différents jeux de données. Par ailleurs, la distribution globale des qualités facilite directement la phase de recherche en permettant d'échantillonner les candidats selon les statistiques des niveaux de qualité, sans avoir à entraîner un algorithme de recherche tel que l'apprentissage par renforcement (RL) ou un algorithme évolutionnaire (EA). Cette caractéristique simplifie significativement le pipeline de NAS et réduit considérablement la charge computationnelle. Le NAR proposé obtient de meilleures performances que les méthodes de pointe sur deux jeux de données largement utilisés dans la recherche sur la NAS. Sur l'espace de recherche étendu de NAS-Bench-101, le NAR parvient à identifier l'architecture parmi les meilleures (dans le top 0,01‱) uniquement par échantillonnage. Il se généralise également efficacement à différents jeux de données d'images du NAS-Bench-201, à savoir CIFAR-10, CIFAR-100 et ImageNet-16-120, en identifiant avec succès les architectures optimales pour chacun d'eux.