14일 전

퍼치 2.0: 생물음향학을 위한 브리튼의 교훈

Bart van Merriënboer, Vincent Dumoulin, Jenny Hamer, Lauren Harrell, Andrea Burns, Tom Denton
퍼치 2.0: 생물음향학을 위한 브리튼의 교훈
초록

Perch는 생물음향학 분야에서 뛰어난 성능을 보이는 사전 학습 모델이다. 이 모델은 감독 학습 방식으로 학습되었으며, 수천 종의 음성 발생 생물에 대한 즉시 사용 가능한 분류 점수를 제공함과 동시에 전이 학습을 위한 강력한 임베딩을 제공한다. 이번에 출시된 Perch 2.0은 기존에 조류 종만을 대상으로 학습하던 방식에서 벗어나, 대규모의 다종군(다양한 생물군) 데이터셋으로 확장하였다. 모델은 프로토타입 학습 기반 분류기와 새로운 소스 예측 학습 기준을 활용한 자기 교사(self-distillation) 방식으로 학습되었다. Perch 2.0은 BirdSet 및 BEANS 벤치마크에서 최신 기준(SOTA, state-of-the-art) 성능을 달성하였으며, 거의 해양 데이터를 포함하지 않았음에도 불구하고 해양 전이 학습 과제에서 전용 해양 모델들을 능가하는 성능을 보였다. 본 연구에서는 세밀한 종 분류가 생물음향학 분야에서 특히 강력한 사전 학습 과제가 될 수 있는 이유에 대한 가설을 제시한다.