초록
최근 대조적 비지도 학습은 모멘텀 콘트라스트(MoCo)와 SimCLR 등의 예에서 긍정적인 발전을 보여주고 있습니다. 본 논문에서는 MoCo 프레임워크에 SimCLR의 두 가지 설계 개선 사항을 구현하여 그 효과를 검증합니다. MoCo에 간단한 수정을 가함으로써, 즉 MLP 투영 헤드 사용과 더 많은 데이터 증강을 통해, SimCLR를 능가하고 대형 학습 배치를 요구하지 않는 강화된 베이스라인을 설정하였습니다. 우리는 이로써 최신 비지도 학습 연구를 더욱 접근하기 쉽게 만들기를 기대합니다. 코드는 공개될 예정입니다.