16일 전

TransBoost: 딥 전도를 활용한 최적의 ImageNet 성능 향상

Omer Belhasin, Guy Bar-Shalom, Ran El-Yaniv
TransBoost: 딥 전도를 활용한 최적의 ImageNet 성능 향상
초록

이 논문은 깊이 있는 전달 학습(deep transductive learning)을 다루며, 훈련 시점에 제공된 (라벨이 없는) 테스트 세트에서 어떤 심층 신경망 모델의 성능을 향상시키기 위해 사전에 학습된 모델을 미세 조정하는 방법으로 TransBoost를 제안한다. TransBoost는 큰 마진 원칙(large margin principle)에 영감을 받아 설계되었으며, 효율적이고 사용이 간편하다. 제안하는 방법은 ResNet, MobileNetV3-L, EfficientNetB0, ViT-S, ConvNext-T 등 다양한 아키텍처에서 ImageNet 분류 성능을 크게 향상시켜, 현재까지 보고된 최고 수준의 전달 학습 성능을 달성한다. 또한 TransBoost가 다양한 이미지 분류 데이터셋에서 효과적임을 입증한다. TransBoost의 구현 코드는 다음 링크에서 제공된다: https://github.com/omerb01/TransBoost.