Théorème de Rao-Blackwell

Théorème de Rao-Blackwell

Le théorème de Rao-Blackwell permet à partir d'un estimateur de construire un estimateur plus précis grâce à l'usage d'une statistique exhaustive. L'avantage de ce théorème est que l'estimateur initial n'a pas nécessairement besoin d'être très bon pour que l'estimateur que ce théorème construit fournisse de bons résultats. Il suffit en effet que l'estimateur de départ soit sans biais pour pouvoir construire un nouvel estimateur. L'estimateur de départ n'a entre autres pas besoin d'être convergent ou efficace.

Sommaire

Théorème

Si δ est un estimateur sans biais et S une statistique exhaustive alors l'estimateur augmenté \mathbb{E}(\delta |S) a une variance plus faible que la variance de l'estimateur initial. L'estimateur augmenté est donc toujours plus précis que l'estimateur initial si on l'augmente d'une statistique exhaustive.

Dans le cas multiparamétrique où l'estimateur et le paramètre sont en dimensions plus grands que 1 on remplace la variance par la matrice de variance-covariance. Le théorème de Rao-Blackwell donne alors:

Quel que soit A défini positif l'erreur quadratique en utilisant le produit scalaire défini par A est toujours plus faible pour l'estimateur augmenté que pour l'estimateur initial.

Le fait de pouvoir prendre n'importe quel produit scalaire et non seulement le produit scalaire usuel peut être très utile pour que les différentes composantes ne soit pas normés de la même façon. Ceci peut par exemple être le cas si une erreur sur l'une ou l'autre des composantes "coute plus cher" on pourra choisir une matrice de produit scalaire en fonction. L'estimateur augmenté sera toujours préférable même avec ce produit scalaire non usuel.

En fait le théorème de Rao Blackwell donne légèrement plus vu qu'il dit que quelle que soit la fonction de perte convexe L \mathbb{E}(L((\delta |S),\theta))\leq \mathbb{E}(L(\delta ,\theta)). L'estimateur augmenté est donc toujours plus précis et ce quelle que soit la définition (raisonnable) que l'on donne à "précis".

Exemple

On considère donc n variables aléatoires Xi iid distribués selon des lois de Poisson de paramètre λ et l'on cherche à estimer e − λ. On peut montrer assez facilement en considérant le critère de factorisation que S = \sum_{i=1}^n X_{i} est une statistique exhaustive. Pour montrer l'intérêt de ce théorème on prend un estimateur grossier de e − λ: δ0 = δ(X1,0) qui vaut 1 si X1 = 0 et 0 sinon. Cet estimateur ne prend en compte qu'une seule valeur de X alors qu'on en dispose de n et il ne donne pour résultat que 0 ou 1 alors que la valeur de e − λ appartient à l'intervalle ]0,1] et ne vaut sans doute pas 1. (si c'était le cas Xi vaudrait 0 de façon déterministe et on s'en serai aperçu en regardant les données). Pourtant bien que cet estimateur soit très grossier l'estimateur augmenté obtenu est très bon et on peut même montrer qu'il est optimal. L'estimateur augmenté vaut:

\delta_1=\mathbb{E}(\delta_0|S).\,\!

On peut montrer que:

Détails du calcul

\mathbb{P}(X_1=k| \sum_{i=1}^n X_{i}=S)=\frac{\mathbb{P}(X_1=k \, et\, \sum_{i=1}^n X_{i}=S)}{\mathbb{P}(\sum_{i=1}^n X_{i}=S)}=\frac{\mathbb{P}(X_1=k \, et\, \sum_{i=2}^n X_{i}=S-k)}{\mathbb{P}(\sum_{i=1}^n X_{i}=S)}

Et avec l'indépendance de Xi: \mathbb{P}(X_1=k| \sum_{i=1}^n X_{i}=S)=\frac{\mathbb{P}(X_1=k )\mathbb{P}( \sum_{i=2}^n X_{i}=S-k)}{\mathbb{P}(\sum_{i=1}^n X_{i}=S)}

Si Xi suit une loi de Poisson de paramètre λ alors la fonction génératrice vaut \phi_{X_i} (t) =\ e^{\lambda(t-1)}. Avec les propriétés de la fonction génératrice on en déduit que la somme de n variables iid suivant des lois de Poisson de paramètre λ est une loi de Poisson de paramètre nλ. On en déduit les probabilités et \mathbb{P}(X_1=k| \sum_{i=1}^n X_{i}=S)= C^k_S \, \frac{(n-1)^{S-k}}{n^S} X1 suis une loi binomiale B(S,1/n). La valeur en k=0 nous donne l'estimateur δ1. En effet, \delta_1=\mathbb{E}(\delta_0|S)=1.\mathbb{P}(X_1=0| \sum_{i=1}^n X_{i}=S)+0.\mathbb{P}(X_1\neq 0| \sum_{i=1}^n X_{i}=S)
 
\delta_1=\left(1-{1 \over n}\right)^{S}.\,\!

δ1 est tout comme δ0 un estimateur de e − λ mais a l'avantage d'être beaucoup plus précis grâce à l'application du théorème de Rao–Blackwell.

On peut montrer que \delta_2=\frac{S}{n} est un estimateur optimal de λ (Voir Théorème de Lehman Scheffé) mais que l'estimateur optimal pour e − λ est différent de e^{-\delta_2}.

En fait bien que e^{-\delta_2} soit un estimateur convergent de e − λ c'est un estimateur de relativement mauvaise qualité car il est biaisé et qu'en l'estimant de la sorte on fait une erreur systématique sur l'estimation. De façon générale il peut être intéressant pour estimer f(λ) de construire un estimateur spécifique plutôt que de calculer la valeur prise par f par l'estimateur de λ.

Voir aussi

Références

  • A. Montfort Cours de statistique mathématique, 1982, Economica. Paris.

Liens externes

  • P. Druilhet [1] Cours de statistique interférentielle.
  • Portail des probabilités et des statistiques Portail des probabilités et des statistiques

Wikimedia Foundation. 2010.

Contenu soumis à la licence CC-BY-SA. Source : Article Théorème de Rao-Blackwell de Wikipédia en français (auteurs)

Игры ⚽ Поможем сделать НИР

Regardez d'autres dictionnaires:

  • Améliorée de Rao-Blackwell — Théorème de Rao Blackwell Le théorème de Rao Blackwell permet à partir d un estimateur (statistique) de construire un estimateur plus précis grâce à l usage d une statistique exhaustive. L avantage de ce théorème est que l estimateur initial n a… …   Wikipédia en Français

  • C. R. Rao — Calyampudi Radhakrishna Rao Calyampudi Radhakrishna Rao est un célèbre statisticien indien, né en septembre 1920. Il est actuellement professeur émérite à l Université de Penn. Il est né à Hadagali dans l état de Karnataka. Il possède une… …   Wikipédia en Français

  • Calyampudi Radhakrishna Rao — est un célèbre statisticien indien, né en septembre 1920. Il est actuellement professeur émérite à l Université de Penn. Il est né à Hadagali dans l État de Karnataka. Il possède une maîtrise en mathématiques de l Université Andhra, et une… …   Wikipédia en Français

  • David Blackwell — à Seattle en 1967 David Harold Blackwell est un mathématicien noir américain né le 24 avril 1919 à Centralia dans l Illinois aux États Unis et mort à Berkeley, Californie, le 8 juillet 2010. Il fut le premier afro américain à être mem …   Wikipédia en Français

  • Statistique — Pour les articles homonymes, voir Interconnexions entre la théorie des probabilités et les statistiques. Une statistique est, au premier abord, le résultat d une suite d opérations appliquées à un ensemble de nombres appelé échantillon. D une… …   Wikipédia en Français

  • Stastiques — Statistique  A ne pas confondre avec les statistiques Attention : Une statistique est u …   Wikipédia en Français

  • Projet:Mathématiques/Liste des articles de mathématiques — Cette page n est plus mise à jour depuis l arrêt de DumZiBoT. Pour demander sa remise en service, faire une requête sur WP:RBOT Cette page recense les articles relatifs aux mathématiques, qui sont liés aux portails de mathématiques, géométrie ou… …   Wikipédia en Français

  • Inegalite de Jensen — Inégalité de Jensen En mathématiques, en analyse, l’inégalité de Jensen est une relation utile et très générale concernant les fonctions convexes, due au mathématicien danois Johan Jensen et dont il donna la preuve en 1906[1]. On peut l écrire de …   Wikipédia en Français

  • Inégalité De Jensen — En mathématiques, en analyse, l’inégalité de Jensen est une relation utile et très générale concernant les fonctions convexes, due au mathématicien danois Johan Jensen et dont il donna la preuve en 1906[1]. On peut l écrire de deux manières  …   Wikipédia en Français

  • Inégalité de Jensen — En mathématiques, et plus précisément en analyse, l’inégalité de Jensen est une relation utile et très générale concernant les fonctions convexes, due au mathématicien danois Johan Jensen et dont il donna la preuve en 1906[1]. On peut l écrire de …   Wikipédia en Français

Share the article and excerpts

Direct link
… Do a right-click on the link above
and select “Copy Link”