AlexNet ist ein tiefes Convolutional Neural Network (CNN), das 2012 von Alex Krizhevsky, Ilya Sutskever und Geoffrey Hinton vorgeschlagen wurde. Es erzielte im selben Jahr bahnbrechende Ergebnisse beim ImageNet-Bildklassifizierungswettbewerb und gewann den ersten Platz beim ILSVRC-Wettbewerb 2012, was zur Wiederbelebung des Deep Learning im Bereich der Bilderkennung führte. Die relevanten Papierergebnisse sindImageNet-Klassifizierung mit Deep Convolutional Neural Networks“ und auf der NIPS-Konferenz 2012 veröffentlicht.

AlexNet verfügt über eine relativ tiefe Netzwerkstruktur, die aus 5 Faltungsschichten und 3 vollständig verbundenen Schichten mit 60 Millionen Parametern und 650.000 Neuronen besteht. Es verwendet eine Reihe innovativer Technologien, wie beispielsweise die Verwendung der ReLU-Aktivierungsfunktion, um das Problem des Gradientenverschwindens zu lösen, das bei der herkömmlichen Sigmoid-Aktivierungsfunktion auftreten kann, wodurch das Netzwerk schneller konvergiert und die nichtlinearen Ausdrucksfunktionen verbessert werden.