Strukturelles Risiko
Strukturelle RisikenEs handelt sich um einen Kompromiss zwischen empirischem Risiko und erwartetem Risiko. Normalerweise wird das strukturelle Risiko durch Hinzufügen eines Regularisierungsterms nach der empirischen Risikofunktion ermittelt.
Konzepterklärung
- Vertrauensrisiko: der Fehler eines ungeschulten Klassifikators bei der Klassifizierung einer unbekannten Probe;
- Empirisches Risiko: Der Fehler, der von einem trainierten Klassifikator nach der vollständigen Klassifizierung der Trainingsproben erhalten wird;
- Strukturelles Risiko: Vertrauensrisiko + Erfahrungsrisiko.
Die Bedeutung struktureller Risiken
Die strukturelle Risikominimierung ist eine Erweiterung der empirischen Risikominimierung. Je kleiner das empirische Risiko ist, desto komplexer ist die Modellentscheidungsfunktion und desto mehr Parameter enthält sie. Wenn die empirische Risikofunktion bis zu einem gewissen Grad klein ist, kommt es zu einer Überanpassung.
Um eine Überanpassung sicherzustellen und den Regularisierungsterm zu minimieren, sind zwei Minimierungsfunktionen erforderlich.
Die strukturelle Risikofunktion integriert beides und stellt sicher, dass die Komplexität der empirischen Risikofunktion und der Modellentscheidungsfunktion minimiert wird. Um das Optimierungsziel zu erreichen, wird dann die strukturelle Risikofunktion minimiert.