2달 전

가중 커널 밀도 추정을 기반으로 한 빠른 동적 경로 설정

Suofei Zhang; Wei Zhao; Xiaofu Wu; Quan Zhou
가중 커널 밀도 추정을 기반으로 한 빠른 동적 경로 설정
초록

캡슐 및 캡슐 간의 동적 라우팅은 최근에 제안된 딥 뉴럴 네트워크 구조입니다. 캡슐은 대상 인스턴스의 특정 속성을 표현하기 위해 전통적인 스칼라가 아닌 벡터나 행렬 형태로 데이터를 그룹화합니다. 또한, 캡슐은 존재 확률(일반적으로 활성화라고 표기)을 부착해야 합니다. 동적 라우팅은 많은 모델 매개변수 없이도 캡슐이 더 일반화된 능력을 갖도록 돕습니다. 그러나, 캡슐의 광범위한 적용을 방해하는 병목 현상은 라우팅 중 계산 비용입니다. 이 문제를 해결하기 위해, 우리는 가중 커널 밀도 추정의 프레임워크 내에서 기존 라우팅 방법들을 일반화하고, 두 가지 다른 최적화 전략을 사용하는 두 가지 빠른 라우팅 방법을 제안합니다. 우리의 방법들은 성능 저하를 거의 무시할 수 있는 수준으로 유지하면서 라우팅 시간 효율성을 약 40% 향상시킵니다. 합성곱 계층과 캡슐 계층의 하이브리드를 스택하여, $64\times{64}$ 픽셀 해상도의 입력을 처리할 수 있는 네트워크 아키텍처를 구성하였습니다. 제안된 모델들은 여러 벤치마크에서 다른 선두 방법들과 유사한 성능을 달성하였습니다.