MintNet : Construction de réseaux neuronaux inversibles avec des convolutions masquées

Nous proposons une nouvelle méthode de construction de réseaux neuronaux inversibles en combinant des blocs de construction simples avec un ensemble novateur de règles de composition. Cette approche permet d'obtenir une gamme riche d'architectures inversibles, y compris celles similaires aux ResNets. L'inversion est réalisée par une procédure itérative localement convergente qui est parallélisable et très rapide en pratique. De plus, le déterminant du Jacobien peut être calculé de manière analytique et efficace, ce qui permet leur utilisation générative comme modèles de flux. Pour démontrer leur flexibilité, nous montrons que nos réseaux neuronaux inversibles sont compétitifs avec les ResNets sur la classification des ensembles MNIST et CIFAR-10. Lorsqu'ils sont entraînés comme modèles génératifs, nos réseaux inversibles atteignent des vraisemblances compétitives sur MNIST, CIFAR-10 et ImageNet 32x32, avec respectivement 0,98, 3,32 et 4,06 bits par dimension.