Der mittlere quadratische Fehler ist der erwartete Wert, der den Grad der Abweichung zwischen dem geschätzten Wert und dem wahren Wert widerspiegelt. Es wird häufig verwendet, um den Grad der Datenänderung zu bewerten und die Genauigkeit der Daten vorherzusagen.

Angenommen, es gibt einen Parameter und seine Schätzfunktion ist , dann ist , der quadrierte Erwartungswert des „Fehlers“.

Der mittlere quadrierte Fehler genügt der Gleichung , wobei , d.h. der Bias ist die Differenz zwischen dem Erwartungswert der geschätzten Funktion und dem nicht beobachtbaren Parameter.

Da die quadratische Form leicht abzuleiten ist, wird der mittlere quadratische Fehler häufig als Verlustfunktion für die lineare Regression verwendet.