예상 손실이는 모든 샘플의 예측 능력이며, 전반적인 개념입니다. 경험적 위험은 지역적 개념이며, 훈련 데이터 세트의 샘플에 대한 결정 함수의 예측 능력만을 나타냅니다.
경험적 위험과 예상 위험
경험적 위험은 지역적입니다. 학습 세트의 모든 샘플 포인트의 손실 함수를 최소화함으로써 경험적 위험은 국소적으로 최적이 되며 현실적으로 얻을 수 있습니다.
예상되는 위험은 전 세계적인 것입니다. 모든 샘플 지점의 손실 함수를 최소화함으로써 예상 위험은 전역적으로 최적이 되며 이상화는 달성할 수 없습니다.
참고문헌
【1】머신 러닝 최적화 문제 - 경험적 위험, 예상 위험, 구조적 위험