MintNet: Erstellung von invertierbaren neuronalen Netzen mit maskeierten Faltungen

Wir schlagen eine neue Methode zur Konstruktion von invertierbaren neuronalen Netzen vor, indem wir einfache Bausteine mit einem neuartigen Satz von Kompositionsregeln kombinieren. Dies führt zu einer Vielzahl von invertierbaren Architekturen, darunter solchen, die den ResNets ähnelt. Die Invertierung wird durch ein lokal konvergentes iteratives Verfahren erreicht, das parallelisierbar und in der Praxis sehr schnell ist. Zudem kann die Determinante der Jacobi-Matrix analytisch und effizient berechnet werden, was ihre generative Verwendung als Flussmodelle ermöglicht. Um ihre Flexibilität zu demonstrieren, zeigen wir, dass unsere invertierbaren neuronalen Netze bei der Klassifizierung auf MNIST und CIFAR-10 mit ResNets mithalten können. Wenn sie als generative Modelle trainiert werden, erreichen unsere invertierbaren Netze wettbewerbsfähige Wahrscheinlichkeiten auf MNIST, CIFAR-10 und ImageNet 32x32, mit Bits pro Dimension von 0.98, 3.32 und 4.06 jeweils.请注意，这里的“jeweils”是“分别”的意思，用于列举不同数据集上的结果。此外，“MNIST”，“CIFAR-10”和“ImageNet 32x32”是专有名词，通常在德语文献中直接使用英文名称。