Minimiser les risques structurelsIl s’agit du principe d’induction dans l’apprentissage automatique et il est souvent utilisé comme stratégie pour éviter le surapprentissage.

Principes de la GRS

Risque structurel = risque empirique + risque de confiance

Dans la théorie de l’optimisation, le risque structuré minimum est principalement le risque empirique sur l’échantillon. Dans le but d’éviter le surapprentissage, le risque de confiance peut être minimisé en ajoutant des termes réguliers.

Lorsque la taille de l’échantillon est suffisamment grande, le risque empirique se rapproche du risque structurel. Étant donné que la minimisation du risque empirique peut garantir l’effet d’apprentissage, elle est largement utilisée dans la réalité.

Applications SRM

Dans l’estimation bayésienne, l’estimation de la probabilité maximale a posteriori est une minimisation du risque structurée.

Le modèle suit la distribution de probabilité conditionnelle, la fonction de perte est la fonction de perte logarithmique, la complexité du modèle est représentée par la probabilité a priori du modèle et la minimisation du risque structurel est l'estimation de probabilité a posteriori maximale.

Termes connexes : risque structurel, minimisation du risque empirique