초록
딥 뉴럴 네트워크의 성능은 주석이 달린 데이터가 많아짐에 따라 향상됩니다. 그러나 주석 작업에 대한 예산이 제한되어 있다는 문제가 있습니다. 이 문제를 해결하기 위한 한 가지 방법은 활성 학습(active learning)으로, 모델이 자신이 불확실하다고 인식한 데이터에 대해 인간에게 주석을 요청하는 방식입니다. 최근에는 딥 네트워크에 활성 학습을 적용하기 위한 다양한 방법들이 제안되었지만, 대부분의 방법들은 특정 목표 작업에 특화되어 있거나 대규모 네트워크에서 계산적으로 비효율적입니다. 본 논문에서는 단순하지만 작업과 무관한(task-agnostic) 새로운 활성 학습 방법을 제안합니다. 이 방법은 대규모 딥 네트워크와 효율적으로 작동합니다. 우리는 '로스 예측 모듈(loss prediction module)'이라는 이름의 작은 매개변수 모듈을 목표 네트워크에 연결하고, 이를 통해 라벨이 없는 입력 데이터의 타겟 로스를 예측하도록 학습시킵니다. 그런 다음, 이 모듈은 타겟 모델이 잘못된 예측을 할 가능성이 높은 데이터를 제안할 수 있습니다. 이 방법은 모든 작업에서 동일한 단일 로스로 네트워크를 학습시키므로 작업과 무관합니다. 우리는 최근의 네트워크 아키텍처를 사용하여 이미지 분류, 객체 감지, 그리고 인간 자세 추정 등의 작업을 통해 우리의 방법을 철저히 검증하였습니다. 결과는 우리의 방법이 기존 방법들보다 일관되게 우수한 성능을 보임을 입증하고 있습니다.