노이즈 있는 레이블을 이용한 효율적인 전이 행렬 추정을 통한 레이블 오정정 방지 학습

노이즈 있는 레이블을 이용한 학습에 관한 최근 연구들은 소량의 클린 데이터셋을 활용함으로써 놀라운 성능을 달성하고 있다. 특히, 모델에 종속되지 않는 메타학습 기반의 레이블 보정 방법은 실시간으로 노이즈 레이블을 보정함으로써 성능을 더욱 향상시킨다. 그러나 이러한 방법에는 잘못된 레이블 보정에 대한 보호 장치가 없어 불가피한 성능 저하가 발생한다. 게다가 각 학습 단계마다 최소 세 번의 역전파가 필요하여 학습 속도가 크게 저하된다. 이러한 문제를 완화하기 위해, 우리는 실시간으로 레이블 전이 행렬을 학습하는 강건하고 효율적인 방법을 제안한다. 전이 행렬을 활용함으로써 분류기는 보정된 모든 샘플에 대해 회의적인 태도를 취하게 되어 잘못된 보정 문제를 완화할 수 있다. 또한, 단일 역전파 내에서 매 반복마다 레이블 전이 행렬을 효율적으로 추정할 수 있도록 두 개의 헤드 아키텍처를 도입하여, 레이블 보정에 의해 유도되는 노이즈 분포의 변화를 정밀하게 추적할 수 있도록 했다. 광범위한 실험 결과를 통해 제안하는 방법이 기존 방법과 비교해 유사하거나 더 높은 정확도를 유지하면서도 학습 효율성에서 최고의 성능을 보임을 입증하였다.