16일 전

메타 편가 레이블

Hieu Pham, Zihang Dai, Qizhe Xie, Minh-Thang Luong, Quoc V. Le
메타 편가 레이블
초록

우리는 ImageNet에서 기존 최고 성능보다 1.6% 높은 90.2%의 최상위-1 정확도를 달성하는 새로운 준지도학습 방법인 메타 가짜 레이블(Meta Pseudo Labels)을 제안한다. Pseudo Labels와 마찬가지로 메타 가짜 레이블은 레이블이 없는 데이터에 대해 가짜 레이블을 생성하여 학생 네트워크를 가르치는 교사 네트워크를 갖는다. 그러나 Pseudo Labels에서 교사 네트워크가 고정된 반면, 메타 가짜 레이블의 교사 네트워크는 레이블이 있는 데이터셋에서 학생 네트워크의 성능에 대한 피드백을 통해 지속적으로 적응된다. 그 결과, 교사는 학생 네트워크를 더 효과적으로 가르칠 수 있는 보다 우수한 가짜 레이블을 생성하게 된다. 본 연구의 코드는 https://github.com/google-research/google-research/tree/master/meta_pseudo_labels 에서 공개될 예정이다.

메타 편가 레이블 | 최신 연구 논문 | HyperAI초신경