- Erreur moyenne quadratique
-
Erreur quadratique moyenne
En statistiques, l’erreur quadratique moyenne (ou plus souvent l’erreur quadratique, moyenne étant sous-entendu) pour un paramètre θ de dimension 1, que nous noterons MSE (pour Mean Squared Error), est définie par:
Définition —
avec l’estimateur du paramètre θ.
Sommaire
Utilité
Comparaison d'estimateurs
L'erreur quadratique moyenne est très utile pour comparer plusieurs estimateurs, notamment lorsque l'un d'eux est biaisé. Si les deux estimateurs à comparer sont sans biais, l'estimateur le plus efficace est simplement celui qui a la variance la plus petite. On peut effectivement exprimer l'erreur quadratique moyenne en fonction du biais de l'estimateur ainsi que sa variance:
Théorème —
DémonstrationEn faisant intervenir le biais et la variance, l'erreur quadratique moyenne permet donc de trancher dans une situation où il existe un estimateur sans biais et un autre biaisé mais de variance plus petite.
Exemple :Comparons les deux estimateurs de la variance:
et
Des calculs montrent que (voir Greene 2005, p. 861):
L'estimateur est sans biais mais a une plus forte variance que l'estimateur .
La comparaison des erreurs quadratiques moyennes (MSE) donne:
Et l'estimateur biaisé est donc plus précis en termes d'erreur quadratique moyenne.
Convergence de l'estimateur
Il est possible de déterminer si un estimateur est convergent en probabilité à partir de son erreur quadratique moyenne, on a en effet:
Théorème —
La démonstration est faite à la page convergence de variables aléatoires.
Généralisation
Dans un cadre plus général pour un modèle multiparamétrique où l'on cherche à estimer plusieurs paramètres ou pour estimer une fonction f(θ) de un ou plusieurs paramètres, l'erreur quadratique moyenne pour un estimateur δ de f(θ) est défini par:
Définition —
où A est une matrice symétrique définie positive (qui définit donc un produit scalaire).
Références
(en) William H Greene, Econométrie, Pearson Education, Paris (ISBN 2744070971), p. 2
Voir aussi
- Portail des probabilités et des statistiques
Catégorie : Estimation (statistique)
Wikimedia Foundation. 2010.