2달 전

확률적 풀링을 이용한 깊은 합성곱 신경망의 정규화

Matthew D. Zeiler; Rob Fergus
확률적 풀링을 이용한 깊은 합성곱 신경망의 정규화
초록

우리는 대형 컨볼루션 신경망을 정규화하기 위한 간단하면서도 효과적인 방법을 소개합니다. 기존의 결정론적 풀링 연산을 각 풀링 영역 내 활성화 값들의 다항 분포(multinomial distribution)에 따라 무작위로 활성화 값을 선택하는 확률적 절차로 대체합니다. 이 접근법은 하이퍼파라미터가 필요하지 않으며, 드롭아웃(dropout) 및 데이터 증강(data augmentation)과 같은 다른 정규화 접근법과 결합하여 사용할 수 있습니다. 우리는 데이터 증강을 활용하지 않는 다른 접근법들에 비해 네 가지 이미지 데이터셋에서 최고 수준의 성능을 달성하였습니다.

확률적 풀링을 이용한 깊은 합성곱 신경망의 정규화 | 최신 연구 논문 | HyperAI초신경