Sélection rapide et robuste de caractéristiques : la puissance de l'entraînement creux économe en énergie pour les autoencodeurs

Des complications majeures émergent de la croissance récente de la quantité de données à haute dimension, notamment des coûts computationnels élevés et des exigences mémoire importantes. La sélection de caractéristiques, qui consiste à identifier les attributs les plus pertinents et informatifs d’un ensemble de données, a été proposée comme solution à ce problème. La plupart des méthodes existantes de sélection de caractéristiques sont peu efficaces sur le plan computationnel ; ces algorithmes inefficaces entraînent une consommation énergétique élevée, ce qui n’est pas souhaitable pour les dispositifs aux ressources computationnelles et énergétiques limitées. Dans cet article, une nouvelle méthode flexible pour la sélection de caractéristiques non supervisée est proposée. Cette méthode, nommée QuickSelection, utilise la force des neurones dans les réseaux neuronaux creux comme critère pour mesurer l’importance des caractéristiques. Ce critère, combiné à des autoencodeurs débruitants à connexion creuse entraînés par une procédure d’apprentissage évolutif creux, permet d’obtenir simultanément l’importance de toutes les caractéristiques d’entrée. Nous implémentons QuickSelection de manière purement creuse, contrairement à l’approche classique consistant à utiliser un masque binaire sur les connexions pour simuler la densité. Cette approche permet une augmentation considérable de la vitesse et une réduction significative de la mémoire utilisée. Lorsqu’elle est testée sur plusieurs jeux de données de référence, incluant cinq jeux à faible dimension et trois à haute dimension, la méthode proposée atteint le meilleur compromis entre précision de classification, précision de regroupement, temps d’exécution et utilisation maximale de la mémoire parmi les approches largement utilisées pour la sélection de caractéristiques. En outre, notre méthode requiert la consommation énergétique la plus faible parmi les méthodes d’état de l’art basées sur les autoencodeurs pour la sélection de caractéristiques.