AlexNet 합성곱 신경망

AlexNet은 2012년 Alex Krizhevsky, Ilya Sutskever, Geoffrey Hinton이 제안한 딥러닝 합성곱 신경망(CNN)입니다. 그해 ImageNet 이미지 분류 대회에서 획기적인 성과를 거두었고, 2012년 ILSVRC 대회에서 1위를 차지하면서 이미지 인식 분야에서 딥러닝이 부활하는 계기가 되었습니다. 관련 논문 결과는 다음과 같습니다.딥 컨볼루션 신경망을 이용한 ImageNet 분류", NIPS 2012 컨퍼런스에 게재되었습니다.

AlexNet은 5개의 합성곱 계층과 3개의 완전 연결 계층으로 구성된 비교적 깊은 네트워크 구조를 가지고 있으며, 6,000만 개의 매개변수와 650,000개의 뉴런을 가지고 있습니다. 기존 시그모이드 활성화 함수에서 발생할 수 있는 그래디언트 소실 문제를 해결하기 위해 ReLU 활성화 함수를 사용하는 등 일련의 혁신적인 기술을 사용하여 네트워크 수렴 속도를 높이고 비선형 표현 능력을 향상시킵니다.