2달 전

자기 감독된 클래스 인식 소수 샷 분류

Ojas Kishore Shirekar; Hadi Jamali-Rad
자기 감독된 클래스 인식 소수 샷 분류
초록

비지도 학습은 인간의 지능을 구성하는 다크 매터로 여겨지고 있습니다. 이 방향으로 발전시키기 위해, 본 논문은 풍부한 라벨이 없는 데이터에서의 비지도 학습과 다운스트림 분류 작업을 위한 소량 샘플 미세 조정(fine-tuning)에 초점을 맞추고 있습니다. 이를 위해, 우리는 대조 학습(contrastive learning)을 자기 지도事前训练(self-supervised pre-training)에 적용하는 최근 연구를 확장하여, 반복적인 클러스터링과 재순위화(re-ranking)를 통해 클래스 수준 인식(class-level cognizance)을 통합하고, 대조 최적화 손실(contrastive optimization loss) 함수를 이를 고려하도록 확장하였습니다. 우리 연구가 표준 및 크로스 도메인 시나리오에서 모두 새로운 최고 수준(SoTA)을 달성하였음을 확인하였습니다. 특히, 표준 mini-ImageNet 벤치마크에서 (5-way, 1-shot 및 5-shot) 설정과 크로스 도메인 CDFSL 벤치마크에서 (5-way, 5-shot 및 20-shot) 설정에서 새로운 SoTA를 세웠습니다. 우리의 코드와 실험 결과는 GitHub 저장소에서 확인할 수 있습니다: https://github.com/ojss/c3lr.注:在“自我监督预训练”这一术语中,我使用了“자기 지도事前训练”,但为了保持一致性,建议统一为“자기 지도 사전 학습”。以下是修正后的版本:비지도 학습은 인간의 지능을 구성하는 다크 매터로 여겨지고 있습니다. 이 방향으로 발전시키기 위해, 본 논문은 풍부한 라벨이 없는 데이터에서의 비지도 학습과 다운스트림 분류 작업을 위한 소량 샘플 미세 조정(fine-tuning)에 초점을 맞추고 있습니다. 이를 위해, 우리는 대조 학습(contrastive learning)을 자기 지도 사전 학습(self-supervised pre-training)에 적용하는 최근 연구를 확장하여, 반복적인 클러스터링과 재순위화(re-ranking)를 통해 클래스 수준 인식(class-level cognizance)을 통합하고, 대조 최적화 손실(contrastive optimization loss) 함수를 이를 고려하도록 확장하였습니다. 우리 연구가 표준 및 크로스 도메인 시나리오에서 모두 새로운 최고 수준(SoTA)을 달성하였음을 확인하였습니다. 특히, 표준 mini-ImageNet 벤치마크에서 (5-way, 1-shot 및 5-shot) 설정과 크로스 도메인 CDFSL 벤치마크에서 (5-way, 5-shot 및 20-shot) 설정에서 새로운 SoTA를 세웠습니다. 우리의 코드와 실험 결과는 GitHub 저장소에서 확인할 수 있습니다: https://github.com/ojss/c3lr.

자기 감독된 클래스 인식 소수 샷 분류 | 최신 연구 논문 | HyperAI초신경