구조적 위험
구조적 위험이는 경험적 위험과 예상 위험 간의 타협입니다. 일반적으로 구조적 위험은 경험적 위험 함수 뒤에 정규화 항을 추가하여 얻습니다.
개념 설명
- 신뢰 위험: 훈련되지 않은 분류자가 알려지지 않은 샘플을 분류할 때 발생하는 오류.
- 경험적 위험: 훈련된 분류기가 훈련 샘플을 완전히 분류한 후 얻은 오류.
- 구조적 위험: 신뢰 위험 + 경험 위험.
구조적 위험의 중요성
구조적 위험 최소화는 경험적 위험 최소화의 확장입니다. 경험적 위험이 작을수록 모델 결정 함수는 더 복잡해지고 포함하는 매개변수도 더 많아집니다. 경험적 위험 함수가 어느 정도 작으면 과적합이 발생합니다.
과적합을 보장하고 정규화 항을 최소화하려면 두 개의 최소화 함수가 필요합니다.
구조적 위험 함수는 두 가지를 통합하고 경험적 위험 함수와 모델 결정 함수의 복잡성이 최소화되도록 보장합니다. 그런 다음 최적화 목표를 달성하기 위해 구조적 위험 함수가 최소화됩니다.