대체 손실 함수일반적으로 손실 함수를 계산하기 불편할 때 사용됩니다. 프록시 손실 함수가 최적화되면 원래 손실 함수도 동시에 최적화됩니다. 즉, 원래 손실 함수와 관련된 보정 또는 일관성이 최적화됩니다.

대체 손실 함수가 볼록 함수이고 점 0에서 미분 가능한 경우, 도함수가 0보다 작을 때 일관성이 있습니다. 따라서 일반적으로 볼록 함수가 손실 함수로 선택됩니다.

일반적인 대체 함수

• 힌지 손실: f(x) = max(0, 1 - x)
• 지수 손실 함수: f(x) = exp(–x)
• 대수 손실 함수: f(x) = log(1+exp(-x))

관련 용어: 대체 함수, 손실 함수