초록
심층 신경망은 자연어 처리, 컴퓨터 비전 및 음성 응용 분야에서 광범위하게 최첨단 성능을 달성하고 있다. 그러나 가장 큰 도전 과제 중 하나는 메모리 용량이 매우 작고 계산 능력이 제한된 모바일폰이나 스마트워치와 같은 디바이스에서 이러한 복잡한 네트워크를 실행하는 것이다. 본 연구에서는 로컬 감지 해싱(local sensitive hashing)을 활용하여 컴팩트한 프로젝션 벡터를 학습하는 디바이스 내 자체 관리형 신경망(SGNNs)을 제안한다. 기존 연구와 비교했을 때 SGNNs의 주요 장점은 사전 훈련된 워드 임베딩과 거대한 파라미터를 가진 복잡한 네트워크를 필요로 하지 않는다는 점이다. 대화 행위 분류(dialog act classification)에 대해 광범위한 평가를 수행한 결과, 기존 최고 수준의 성능을 크게 상회하는 결과를 도출하였다. 본 연구의 결과는 SGNNs가 저차원의 의미적 텍스트 표현을 효과적으로 포착하면서도 높은 정확도를 유지할 수 있음을 보여준다.