BN 배치 정규화

BN은 대규모 합성곱 신경망의 학습 속도를 높이고 수렴 후 분류 정확도를 개선할 수 있는 일련의 정규화 방법입니다.

BN이 신경망의 특정 계층에서 사용되는 경우 각 미니 배치 데이터에 대해 내부 표준화를 수행하여 출력을 N(0,1)의 정규 분포로 정규화하고, 이를 통해 내부 뉴런 분포의 변화를 줄입니다. 기존의 딥 신경망을 학습시킬 때는 각 계층의 입력 분포가 바뀌어 학습이 어려웠지만, BN을 추가하면 이러한 문제를 해결할 수 있습니다.