11일 전

조건부 스코어 기반 데이터 생성을 위한 노이즈 제거 가능도 스코어 매칭

Chen-Hao Chao, Wei-Fang Sun, Bo-Wun Cheng, Yi-Chen Lo, Chia-Che Chang, Yu-Lun Liu, Yu-Lin Chang, Chia-Ping Chen, Chun-Yi Lee
조건부 스코어 기반 데이터 생성을 위한 노이즈 제거 가능도 스코어 매칭
초록

기존의 조건부 스코어 기반 데이터 생성 방법들은 베이즈 정리(Bayes' theorem)를 활용하여 로그 사후 밀도의 기울기를 스코어들의 혼합 형태로 분해한다. 이러한 접근은 조건부 스코어 모델의 학습 과정을 용이하게 하며, 스코어 모델과 분류기(classifier)를 별도로 이용하여 스코어의 혼합을 추정할 수 있도록 한다. 그러나 본 연구의 분석 결과, 이러한 방법에서 분류기의 학습 목표가 심각한 스코어 불일치 문제(score mismatch issue)를 초래할 수 있음을 확인하였다. 이는 추정된 스코어가 진정한 스코어로부터 벗어나는 상황을 의미하며, 이로 인해 확산 과정 중 샘플이 왜곡된 스코어에 의해 오도되며, 결과적으로 샘플링 품질이 저하된다. 이를 해결하기 위해, 진정한 로그 가능도 밀도의 기울기를 정확히 일치시키기 위한 새로운 학습 목표인 '디노이징 가능도 스코어 매칭(Denoising Likelihood Score Matching, DLSM)' 손실을 제안한다. 실험 결과, 제안된 방법은 Cifar-10 및 Cifar-100 기준에서 여러 주요 평가 지표에서 기존 방법들을 뚜렷하게 능가함을 보였다. 따라서 DLSM을 채택함으로써 조건부 스코어를 정확히 모델링할 수 있으며, 스코어 불일치 문제의 영향을 효과적으로 완화할 수 있음을 결론지을 수 있다.

조건부 스코어 기반 데이터 생성을 위한 노이즈 제거 가능도 스코어 매칭 | 최신 연구 논문 | HyperAI초신경