부분 라벨 감독을 이용한 무지 상태의 생성적 노이즈 라벨 학습

잡음 라벨 학습은 판별적 접근법과 생성적 접근법을 통해 다루어져 왔습니다. 판별적 방법의 간단함과 효율성에도 불구하고, 생성 모델은 깨끗한 라벨과 잡음 라벨을 분리하고 라벨 전이 행렬을 추정하는 더 원칙적인 방법을 제공합니다. 그러나 기존의 생성적 방법들은 비용이 많이 드는 생성 모듈이나 휴리스틱 가정을 통해 추가적인 잠재 변수를 추론해야 하는 경우가 많아, 다양한 인과 관계에 대한 적응적 최적화를 방해합니다. 또한 이러한 방법들은 샘플별로 깨끗한 라벨 분포와 불확실성을 반영하지 않는 균일한 깨끗한 라벨 사전 확률을 가정합니다. 본 논문에서는 이러한 도전 과제들을 해결하기 위한 새로운 생성적 잡음 라벨 학습 프레임워크를 제안합니다. 첫째, 판별기 출력으로 이미지 생성을 직접 근사하는 새로운 단일 단계 최적화를 제안합니다. 이 근사는 이미지 생성의 계산 비용을 크게 줄이면서도 생성 모델링의 장점을 유지하며, 우리의 프레임워크가 서로 다른 인과 관계 시나리오(즉, 이미지가 라벨을 생성하거나 그 역)에 대해 무관하게 작동할 수 있도록 합니다. 둘째, 깨끗한 라벨 커버리지와 불확실성을 모두 고려하는 새로운 부분 라벨 감독(Partial Label Supervision, PLS) 방법을 소개합니다. PLS의 감독은 손실 최소화에만 초점을 맞추는 것이 아니라, 샘플별로 깨끗한 라벨 분포와 불확실성을 포착하는 것을 목표로 합니다. 컴퓨터 비전 및 자연어 처리(Natural Language Processing, NLP) 벤치마크에서 수행된 광범위한 실험 결과, 우리의 생성 모델링이 계산 비용을 크게 줄이면서도 최신 연구 결과를 달성함을 보여주었습니다. 우리의 코드는 https://github.com/lfb-1/GNL에서 확인할 수 있습니다.