Meta-Weight-Net: 샘플 가중치를 위한 명시적 매핑 학습

현재의 깊은 신경망(DNNs)은 라벨이 손상되었거나 클래스 불균형이 있는 편향된 학습 데이터에 쉽게 과적합될 수 있습니다. 샘플 재가중 전략은 이러한 문제를 완화하기 위해 학습 손실에서 샘플 가중치로 매핑하는 가중 함수를 설계하고, 가중치 재계산과 분류기 업데이트 사이에서 반복하는 방법으로 일반적으로 사용됩니다. 그러나 현재 접근 방식들은 가중 함수와 그 추가 하이퍼파라미터를 수동으로 사전 지정해야 하는 단점이 있습니다. 이는 조사되는 문제와 학습 데이터에 따라 적절한 가중 방식이 크게 다르기 때문에 실제로 일반적으로 적용하기가 매우 어렵습니다. 이를 해결하기 위해, 우리는 데이터로부터 직접 적응적으로 명시적인 가중 함수를 학습할 수 있는 방법을 제안합니다. 이 가중 함수는 하나의 은닉층을 갖는 다층 퍼셉트론(MLP)으로, 거의 모든 연속 함수를 근사하는 보편적 근사자(universal approximator) 역할을 하므로, 전통적인 연구에서 가정된 것들을 포함하여 다양한 가중 함수에 맞출 수 있습니다. 편향되지 않은 메타데이터의 작은 양으로 안내받으면, 분류기의 학습 과정과 동시에 가중 함수의 파라미터를 세밀하게 업데이트할 수 있습니다. 시뮬레이션 및 실제 실험은 우리의 방법이 클래스 불균형과 노이즈 라벨 케이스에서 적절한 가중 함수를 달성할 수 있으며, 전통적인 방법들의 일반적인 설정뿐만 아니라 더 복잡한 시나리오에서도 완전히 일치함을 입증합니다. 이는 자연스럽게 다른 최신 방법들보다 더 높은 정확도를 가져옵니다.