17일 전

정확도를 향상시키는 방법: 정확하게 훈련하기

Ivan Karpukhin, Stanislav Dereka, Sergey Kolesnikov
정확도를 향상시키는 방법: 정확하게 훈련하기
초록

분류 작업은 일반적으로 정확도(accuracy)를 기준으로 평가된다. 그러나 정확도는 비연속적이고 경사 상승법을 직접 활용해 최적화할 수 없다. 기존의 대표적인 방법들은 교차 엔트로피, 허프 손실(hinge loss), 또는 기타 대체 손실( surrogate loss)을 최소화하는 방식을 사용하는데, 이는 최적의 결과를 도출하지 못할 수 있다. 본 논문에서는 모델의 출력에 확률적 요소(stochasticity)를 도입하고, 확률적 모델의 정확도인 기대 정확도(expected accuracy)를 최적화하는 새로운 최적화 프레임워크를 제안한다. 선형 모델 및 딥 이미지 분류에 대한 광범위한 실험을 통해 제안하는 최적화 방법이 널리 사용되는 분류 손실 함수의 강력한 대안임을 입증하였다.

정확도를 향상시키는 방법: 정확하게 훈련하기 | 최신 연구 논문 | HyperAI초신경