L'erreur quadratique moyenne est la valeur attendue qui reflète le degré de différence entre la valeur estimée et la valeur réelle. Il est souvent utilisé pour évaluer le degré de changement des données et prédire l’exactitude des données.

Supposons qu'il existe un paramètre , et que sa fonction d'estimation soit , alors , la valeur attendue au carré de « l'erreur ».

L'erreur quadratique moyenne satisfait l'équation , où , c'est-à-dire que le biais est la différence entre la valeur attendue de la fonction estimée et le paramètre inobservable.

Étant donné que la forme carrée est facile à dériver, l’erreur quadratique moyenne est souvent utilisée comme fonction de perte pour la régression linéaire.