L’alignement des caractéristiques comme un processus génératif

La réversibilité dans les réseaux de neurones artificiels permet de retrouver l’entrée à partir d’une sortie donnée. Nous proposons une méthode appelée alignement de caractéristiques (feature alignment), permettant d’approcher la réversibilité dans des réseaux de neurones arbitraires. Nous entraînons un réseau en minimisant la distance entre la sortie d’un point de données et une sortie aléatoire, par rapport à une entrée aléatoire. Nous avons appliqué cette technique aux jeux de données d’images MNIST, CIFAR-10, CelebA et STL-10. Nous démontrons que cette méthode permet de reconstruire approximativement des images à partir uniquement de leur représentation latente, sans nécessiter de décodeur. En exploitant la formulation des autoencodeurs variationnels, nous montrons qu’il est possible de générer de nouvelles images statistiquement comparables aux données d’entraînement. En outre, nous démontrons que la qualité des images peut être améliorée en couplant un générateur et un discriminateur. Enfin, nous illustrons comment cette méthode, avec quelques ajustements mineurs, peut être utilisée pour entraîner des réseaux de manière locale, offrant ainsi un potentiel significatif pour réduire la consommation de mémoire computationnelle.