대리 손실 함수
대체 손실 함수일반적으로 손실 함수를 계산하기 불편할 때 사용됩니다. 프록시 손실 함수가 최적화되면 원래 손실 함수도 동시에 최적화됩니다. 즉, 원래 손실 함수와 관련된 보정 또는 일관성이 최적화됩니다.
대체 손실 함수가 볼록 함수이고 점 0에서 미분 가능한 경우, 도함수가 0보다 작을 때 일관성이 있습니다. 따라서 일반적으로 볼록 함수가 손실 함수로 선택됩니다.
일반적인 대체 함수
- 힌지 손실: f(x) = max(0, 1 - x)
- 지수 손실 함수: f(x) = exp(–x)
- 대수 손실 함수: f(x) = log(1+exp(-x))