Erwarteter VerlustEs handelt sich um die Vorhersagefähigkeit aller Stichproben und ist ein globales Konzept. Das empirische Risiko ist ein lokales Konzept und stellt nur die Vorhersagefähigkeit der Entscheidungsfunktion für Stichproben im Trainingsdatensatz dar.

Empirisches Risiko und erwartetes Risiko

Das empirische Risiko ist lokal. Basierend auf der Minimierung der Verlustfunktion aller Stichprobenpunkte im Trainingssatz ist das empirische Risiko lokal optimal und kann realistisch erreicht werden.

Das erwartete Risiko ist global. Basierend auf der Minimierung der Verlustfunktion aller Stichprobenpunkte ist das erwartete Risiko global optimal und eine Idealisierung kann nicht erreicht werden.

Verweise

【1】Optimierungsprobleme beim maschinellen Lernen – Empirisches Risiko, erwartetes Risiko, strukturelles Risiko