EEEA-Net : Une recherche d'architecture neuronale évolutionnaire à sortie précoce

Les objectifs de cette recherche étaient de rechercher des architectures de réseaux neuronaux à convolution (CNN) adaptées à un processeur embarqué aux ressources informatiques limitées, tout en réalisant des coûts de recherche d’architecture de réseau (NAS) sensiblement réduits. Pour atteindre ces deux objectifs, un nouvel algorithme, intitulé Initialisation de population à sortie précoce (EE-PI, Early Exit Population Initialisation), a été développé pour les algorithmes évolutionnaires (EA). L’EE-PI réduit le nombre total de paramètres dans le processus de recherche en filtrant les modèles dont le nombre de paramètres est inférieur à un seuil maximal. Il recherche ensuite de nouveaux modèles pour remplacer ceux dont le nombre de paramètres dépasse ce seuil. Cette approche permet ainsi de réduire le nombre de paramètres, la consommation mémoire pour le stockage et le traitement des modèles, tout en maintenant des performances ou une précision équivalentes. Le temps de recherche a été réduit à 0,52 jour GPU, ce qui représente une avancée considérable et significative par rapport aux résultats obtenus avec d’autres méthodes : 4 jours GPU pour NSGA-Net, 3 150 jours GPU pour AmoebaNet, et 2 000 jours GPU pour NASNet. Par ailleurs, les réseaux basés sur l’algorithme évolutionnaire à sortie précoce (EEEA-Nets) produisent des architectures de réseau à erreur minimale et coût computationnel réduit, adaptées à un jeu de données donné, constituant ainsi une nouvelle classe d’algorithmes de réseau. Sur les jeux de données CIFAR-10, CIFAR-100 et ImageNet, nos expérimentations ont montré que l’EEEA-Net atteint le taux d’erreur le plus bas parmi les modèles NAS de pointe, avec respectivement 2,46 % pour CIFAR-10, 15,02 % pour CIFAR-100 et 23,8 % pour ImageNet. En outre, nous avons adapté cette architecture de reconnaissance d’images à d’autres tâches, telles que la détection d’objets, la segmentation sémantique et la détection de points clés. Dans nos expérimentations, l’EEEA-Net-C2 a surpassé MobileNet-V3 sur toutes ces tâches. (Le code de l’algorithme est disponible à l’adresse suivante : https://github.com/chakkritte/EEEA-Net).