2달 전

스케일링된 산란 변환: 깊은 하이브리드 네트워크

Edouard Oyallon; Eugene Belilovsky; Sergey Zagoruyko
스케일링된 산란 변환: 깊은 하이브리드 네트워크
초록

우리는 감독형 하이브리드 딥 네트워크의 첫 번째 층을 초기화하는 일반적이고 고정된 방법으로 산란 네트워크를 사용합니다. 우리는 초기 층이 반드시 학습될 필요가 없다는 점을 보여주며, 사전 정의된 표현을 사용하여 최고의 결과를 얻으면서도 딥 CNN과 경쟁할 수 있음을 입증하였습니다. 1x1 컨볼루션의 얕은 캐스케이드를 사용하여 매우 작은 크기의 공간 창에 대응하는 산란 계수를 인코딩함으로써, imagenet ILSVRC2012에서 AlexNet의 정확도를 달성할 수 있었습니다. 이 지역 인코딩이 회전에 대한 불변성을 명시적으로 학습한다는 것을 증명하였습니다. 현대적인 ResNet과 산란 네트워크를 결합하여, imagenet ILSVRC2012에서 단일 크롭 상위 5 오류율 11.4%를 달성하였으며, 이는 ResNet-18 아키텍처와 유사한 성능을 내면서도 단지 10개의 층만을 사용하였습니다. 또한 우리는 하이브리드 아키텍처가 기하학적 사전 정보를 통합할 수 있는 능력을 통해 소량 샘플 환경에서도 뛰어난 성능을 낼 수 있다는 것을 발견하였습니다. 이를 CIFAR-10 데이터셋의 부분 집합과 STL-10 데이터셋에서 증명하였습니다.

스케일링된 산란 변환: 깊은 하이브리드 네트워크 | 최신 연구 논문 | HyperAI초신경