Efficient-CapsNet: 자체 주의 경로를 갖춘 캡슐 네트워크

딥 컨볼루션 신경망은 아키텍처 설계 전략을 활용하여 데이터 증강 기법과 특징 맵 수가 많은 층을 광범위하게 사용함으로써 객체 변환을 효과적으로 통합한다. 그러나 이는 매우 비효율적이며, 대규모 데이터셋에서는 특징 검출기의 막대한 중복을 초래한다. 비록 캡슐 네트워크는 여전히 초기 단계에 있지만, 현재의 컨볼루션 네트워크를 확장할 수 있는 유망한 해결책을 제시하며, 인공 시각 인식에 특징 아핀 변환을 더 효율적으로 인코딩할 수 있는 프로세스를 도입할 수 있다. 실제로, 제대로 작동하는 캡슐 네트워크는 새로운 시점에 대해 내재된 일반화 능력을 갖추고 있어, 파라미터 수를 훨씬 적게 사용하면서도 이론적으로 더 높은 성능을 달성할 수 있다. 그러나 이러한 중요한 측면에 대한 관심은 여전히 부족하다. 본 논문에서는 캡슐 네트워크의 효율성을 조사하며, 기존 CapsNet의 파라미터 수의 약 2%에 불과한 단지 16만 개의 파라미터를 가진 극단적인 아키텍처를 통해 그 성능의 한계를 극복하고, 세 가지 다른 데이터셋에서 최신 기준(SOTA) 성능을 달성함을 입증한다. 또한 동적 라우팅을 대체하여, 반복적이지 않고 매우 병렬화가 가능한 새로운 라우팅 알고리즘을 도입하여 캡슐 수가 감소한 상황에서도 효과적으로 대응할 수 있도록 했다. 다른 캡슐 네트워크 구현체를 대상으로 수행한 광범위한 실험을 통해 본 연구의 방법론의 효과성과 캡슐 네트워크가 일반화에 유리한 시각적 표현을 효율적으로 통합할 수 있는 잠재력을 입증하였다.