Strukturelle Risiken minimierenEs handelt sich um das Induktionsprinzip im maschinellen Lernen und wird häufig als Strategie zur Vermeidung von Überanpassung verwendet.

SRM-Prinzipien

Strukturelles Risiko = empirisches Risiko + Vertrauensrisiko

In der Optimierungstheorie ist das minimale strukturierte Risiko hauptsächlich das empirische Risiko der Stichprobe. Unter der Prämisse, Überanpassung zu verhindern, kann das Vertrauensrisiko durch das Hinzufügen regulärer Terme minimiert werden.

Bei einer ausreichend großen Stichprobengröße nähert sich das empirische Risiko dem strukturellen Risiko an. Da durch die Minimierung des empirischen Risikos der Lerneffekt sichergestellt werden kann, wird es in der Realität häufig eingesetzt.

SRM-Anwendungen

Bei der Bayes'schen Schätzung handelt es sich bei der Maximum-a-posteriori-Wahrscheinlichkeitsschätzung um eine strukturierte Risikominimierung.

Das Modell folgt der bedingten Wahrscheinlichkeitsverteilung, die Verlustfunktion ist die logarithmische Verlustfunktion, die Komplexität des Modells wird durch die Modell-A-priori-Wahrscheinlichkeit dargestellt und die strukturelle Risikominimierung ist die Schätzung der maximalen A-posteriori-Wahrscheinlichkeit.

Verwandte Begriffe: Strukturrisiko, empirische Risikominimierung