Autoencodeurs Concrets pour la Sélection Différentiable de Caractéristiques et la Reconstruction

Nous présentons l'autoencodeur concret, une méthode différentiable de bout en bout pour la sélection globale de caractéristiques, qui identifie efficacement un sous-ensemble des caractéristiques les plus informatives et apprend simultanément un réseau neuronal pour reconstruire les données d'entrée à partir des caractéristiques sélectionnées. Notre méthode est non supervisée et repose sur l'utilisation d'une couche sélectrice concrète comme encodeur et d'un réseau neuronal standard comme décodeur. Au cours de la phase d'entraînement, la température de la couche sélectrice concrète est progressivement abaissée, ce qui encourage l'apprentissage d'un nombre spécifié par l'utilisateur de caractéristiques discrètes. Pendant les tests, les caractéristiques sélectionnées peuvent être utilisées avec le réseau décodeur pour reconstruire les autres caractéristiques d'entrée. Nous évaluons les autoencodeurs concrets sur une variété de jeux de données, où ils surpassent significativement les méthodes actuelles de pointe pour la sélection de caractéristiques et la reconstruction des données. En particulier, sur un grand jeu de données d'expression génétique, l'autoencodeur concret sélectionne un petit sous-ensemble de gènes dont les niveaux d'expression peuvent être utilisés pour imputer les niveaux d'expression des gènes restants. En faisant cela, il améliore les gènes phares L1000 largement utilisés actuellement et curatés par des experts, potentiellement réduisant les coûts de mesure de 20 %. L'autoencodeur concret peut être mis en œuvre en ajoutant seulement quelques lignes de code à un autoencodeur standard.