Stochastisches Pooling zur Regularisierung von tiefen Faltungsneuralnetzen

Wir stellen eine einfache und effektive Methode zur Regularisierung großer Faltungsneuronaler Netze (Convolutional Neural Networks) vor. Anstelle der üblichen deterministischen Pooling-Operationen verwenden wir ein stochastisches Verfahren, bei dem die Aktivierung innerhalb jedes Pooling-Bereichs gemäß einer Multinomialverteilung zufällig ausgewählt wird, die durch die Aktivierungen innerhalb des Pooling-Bereichs gegeben ist. Dieser Ansatz ist frei von Hyperparametern und kann mit anderen Regularisierungsmethoden wie Dropout und Data Augmentation kombiniert werden. Wir erzielen den aktuellen Stand der Technik in Bezug auf vier Bild-Datensätze, verglichen mit anderen Ansätzen, die keine Data Augmentation nutzen.