구조적 위험 최소화
구조적 위험 최소화이는 머신 러닝의 귀납적 원리이며, 과도한 적합을 방지하기 위한 전략으로 자주 사용됩니다.
SRM 원칙
구조적 위험 = 경험적 위험 + 신뢰 위험
최적화 이론에서 최소 구조적 위험은 주로 표본에 대한 경험적 위험입니다. 과잉적합을 방지한다는 전제 하에, 정기적인 용어를 추가하면 신뢰 위험을 최소화할 수 있습니다.
표본 크기가 충분히 크면 경험적 위험은 구조적 위험에 접근합니다. 경험적 위험을 최소화하면 학습 효과를 보장할 수 있으므로 현실에서 널리 사용됩니다.
SRM 애플리케이션
베이지안 추정에서 사후 확률의 최대 추정은 구조화된 위험 최소화입니다.
이 모델은 조건부 확률 분포를 따르고, 손실 함수는 대수 손실 함수이며, 모델의 복잡도는 모델 사전 확률로 표현되고, 구조적 위험 최소화는 최대 사후 확률 추정치입니다.