17일 전

확장된 희소 샘플 학습: 새로운 작업을 위한 기존 자원 활용

Reza Esfandiarpoor, Amy Pu, Mohsen Hajabdollahi, Stephen H. Bach
확장된 희소 샘플 학습: 새로운 작업을 위한 기존 자원 활용
초록

많은 실용적인 소수 학습 문제에서 레이블이 부여된 예시가 부족하더라도, 유용한 정보를 포함할 가능성이 있는 풍부한 보조 데이터셋이 존재한다. 우리는 이러한 상황을 연구하기 위해 확장된 소수 학습(extended few-shot learning) 문제를 제안한다. 이후 소수 이미지 분류에서 보조 데이터를 효율적으로 선택하고 효과적으로 활용하는 데 직면한 도전 과제를 해결하기 위한 프레임워크를 소개한다. 대규모 보조 데이터셋과 클래스 간의 의미적 유사성 개념을 기반으로, 타겟 작업과 관련된 다른 클래스에서 자동으로 의사 샘플(피조 샷, pseudo shots)을 선별한다. 우리는 단순히 (1) 이러한 추가 예시를 타겟 작업 예시와 동일하게 모델링하거나 (2) 전이 학습을 통해 특징을 학습하는 것과 같은 난이도 높은 접근 방식은 정확도 향상이 미미하다는 것을 보여준다. 대신, 보조 데이터의 특징을 타겟 클래스의 특징과 더 유사하도록 조정하는 마스킹 모듈(masking module)을 제안한다. 본 연구에서는 이 마스킹 모듈이 단순한 지원 예시 모델링 및 전이 학습보다 각각 4.68%, 6.03% 더 높은 성능을 보임을 입증한다.