Loi de Dirichlet

Plusieurs images de la densité de la loi de Dirichlet distribution lorsque K=3 pour différents vecteurs de paramètres α. Dans le sens horaire à partir du coin supérieur gauche : α=(6, 2, 2), (3, 7, 5), (6, 2, 6), (2, 3, 4).

En probabilité et statistiques, la loi de Dirichlet, souvent notée Dir(α), est une famille de lois de probabilité continues pour des variables aléatoires multinomiales. Cette loi (ou encore distribution) est paramétrée par le vecteur α de nombres réels positifs et tire son nom de Johann Peter Gustav Lejeune Dirichlet. Elle est vue comme la généralisation multinomiale de la loi bêta.

Sommaire

1 Densité de probabilité
2 Propriétés
- 2.1 Agrégation
3 Distributions associées
4 Génération de (pseudo-)nombres aléatoires (RNG)
5 Interprétations intuitives des paramètres
- 5.1 Découpage d'une ficelle
- 5.2 Urne
6 Références
7 Voir aussi
- 7.1 Articles connexes
- 7.2 Liens externes

Densité de probabilité

Illustration du changement de la log-densité avec K=3 lorsque le vecteur α varie de α=(0.3, 0.3, 0.3) à (2.0, 2.0, 2.0), en conservant toutes les composantes individuelles

α i

égales entre elles.

La loi de Dirichlet d'ordre K ≥ 2 de paramètres α₁, ..., α_K > 0 possède pour densité de probabilité :

$f(x_1,\dots, x_{K}; \alpha_1,\dots, \alpha_K) = \frac{1}{\mathrm{B}(\alpha)} \prod_{i=1}^K x_i^{\alpha_i - 1}$

pour tous les x₁, ..., x_K > 0 vérifiant x₁ + ... + x_K-1 < 1, où x_K est une abréviation pour 1 – x₁ – ... – x_K–1. La densité est nulle en dehors de ce simplexe ouvert de dimension (K − 1).

La constante de normalisation est la fonction bêta multinomiale, qui s'exprime à l'aide de la fonction gamma :

$\mathrm{B}(\alpha) = \frac{\prod_{i=1}^K \Gamma(\alpha_i)}{\Gamma\bigl(\sum_{i=1}^K \alpha_i\bigr)},\qquad\alpha=(\alpha_1,\dots,\alpha_K).$

Propriétés

Soit $X = (X_1, \ldots, X_K)\sim\operatorname{Dir}(\alpha)$ , signifiant que les K – 1 premières composantes possèdent la distribution précédente et que

$X_K=1-X_1-\cdots-X_{K-1}.$

Posons $\textstyle\alpha_0 = \sum_{i=1}^K\alpha_i$ . Alors

$\mathrm{E}[X_i] = \frac{\alpha_i}{\alpha_0},$

$\mathrm{Var}[X_i] = \frac{\alpha_i (\alpha_0-\alpha_i)}{\alpha_0^2 (\alpha_0+1)},$

En fait, les densités marginales sont des lois bêta :

$X_i \sim \operatorname{Beta}(\alpha_i, \alpha_0 - \alpha_i).$

Qui plus est,

$\mathrm{Cov}[X_iX_j] = -\frac{\alpha_i \alpha_j}{\alpha_0^2 (\alpha_0+1)}.$

Le mode de la distribution est le vecteur (x₁, ..., x_K) avec

$x_i = \frac{\alpha_i - 1}{\alpha_0 - K}, \quad \alpha_i > 1.$

Agrégation

Si $X = (X_1, \ldots, X_K)\sim\operatorname{Dir}(\alpha_1,\ldots,\alpha_K)$ ,alors $X' = (X_1, \ldots, X_i + X_j, \ldots, X_K)\sim\operatorname{Dir}(\alpha_1,\ldots,\alpha_i+\alpha_j,\ldots,\alpha_K)$ . Cette propriété d'agrégation permet d'obtenir la distribution marginale de $X i$ mentionnée plus haut.

Distributions associées

Si, pour $\scriptstyle i\in\{1,2,\ldots,K\},$

$Y_i\sim\operatorname{Gamma}(\textrm{shape}=\alpha_i,\textrm{scale}=1),$ indépendamment

alors

$V=\sum_{i=1}^K Y_i\sim\operatorname{Gamma}(\textrm{shape}=\sum_{i=1}^K\alpha_i,\textrm{scale}=1),$

$(X_1,\ldots,X_K) = (Y_1/V,\ldots,Y_K/V)\sim \operatorname{Dir}(\alpha_1,\ldots,\alpha_K).$

Bien que les X_i ne sont pas indépendants, ils peuvent néanmoins générer un échantillon de

K

variables aléatoires, distribuées selon une distribution Gamma. Malheureusement, puisque la somme

V

est perdue lors de la génération de X = (X₁, ..., X_K), il n'est pas possible de retrouver les variables Gamma initiales.

Génération de (pseudo-)nombres aléatoires (RNG)

Une méthode pour obtenir un vecteur aléatoire $x=(x_1, \ldots, x_K)$ à partir de la distribution Dirichlet de dimension K de paramètres $(\alpha_1, \ldots, \alpha_K)$ est fournie par la remarque précédente. Tout d'abord, on tire K variables indépendantes $y_1, \ldots, y_K$ selon des distributions Gamma, chacune avec la densité

$\textrm{Gamma}(\alpha_i, 1) = \frac{y_i^{\alpha_i-1} \; e^{-y_i}}{\Gamma (\alpha_i)}, \!$

et on pose au final

$x_i = y_i/\sum_{j=1}^K y_j. \!$

Interprétations intuitives des paramètres

Découpage d'une ficelle

Une illustration de la distribution de Dirichlet apparaît lorsque l'on désire découper des ficelles (toutes de longueur initiale 1.0) en K pièces de différentes longueurs, où chaque pièce a, en moyenne, une longueur désignée mais cette longueur est autorisée à varier. Les valeurs α/α₀ spécifient les longueurs moyennes des découpes résultant de la distribution. La variance (disparité autour de la moyenne) varie inversement avec α₀.

Example of Dirichlet(1/2,1/3,1/6) distribution

Urne

Considérons une urne contenant K différentes couleurs. Initialement, l'urne contient $α 1$ boules de couleur 1, $α 2$ boules de couleur 2, etc.. Procédons alors à N tirages dans l'urne, et la balle tirée est replacée dans l'urne, en ajoutant dans l'urne une boule supplémentaire de même couleur. Lorsque N devient très grand, les proportions des boules de différente couleur sont distribuées selon $\operatorname{Dir}(\alpha_1,\ldots,\alpha_K)$ ^[1].

Notons que chaque tirage modifie la probabilité d'obtenir une couleur donnée. Cette modification s'atténue d'ailleurs avec le nombre de tirages, puisque l'effet marginal d'ajout une boule supplémentaire diminue lorsque l'urne contient de plus en plus de boules.

Références

↑ D. Blackwell and J. B. MacQueen 1973. Ferguson distributions via Pólya urn schemes. The Annals of Statistics, volume 1, number 2, pp353--355

Voir aussi

Liens externes

Non-Uniform Random Variate Generation, par Luc Devroye http://cg.scs.carleton.ca/~luc/rnbookindex.html

Portail des probabilités et des statistiques

Catégorie :

Loi de probabilité

Wikimedia Foundation. 2010.

Contenu soumis à la licence CC-BY-SA. Source : Article Loi de Dirichlet de Wikipédia en français (auteurs)

Игры ⚽ Нужно сделать НИР?

Regardez d'autres dictionnaires:

Loi bêta — Beta Densité de probabilité / Fonction de masse Fonction de répartition … Wikipédia en Français
Dirichlet (Homonymie) — Cette page d’homonymie répertorie les différents sujets et articles partageant un même nom. Johann Peter Gustav Lejeune Dirichlet est un mathématicien allemand du XIXe siècle dont le travail est surtout en théorie des nombres. Arithmétique… … Wikipédia en Français
Loi De Probabilité — Une loi de probabilité ou distribution de probabilité a commencé par décrire les répartitions typiques des fréquences d apparition des résultats d un phénomène aléatoire. Dans le dernier quart du XXe siècle, on a largement étendu le concept… … Wikipédia en Français
Loi de probabilite — Loi de probabilité Une loi de probabilité ou distribution de probabilité a commencé par décrire les répartitions typiques des fréquences d apparition des résultats d un phénomène aléatoire. Dans le dernier quart du XXe siècle, on a largement … Wikipédia en Français
Dirichlet (homonymie) — Cette page d’homonymie répertorie les différents sujets et articles partageant un même nom. Johann Peter Gustav Lejeune Dirichlet est un mathématicien allemand du XIXe siècle dont le travail est surtout en théorie des nombres. Arithmétique… … Wikipédia en Français
Loi de probabilité — En théorie des probabilités et en statistique, une loi de probabilité décrit soit les probabilités de chaque valeur d une variable aléatoire (quand la variable aléatoire est discrète), soit la probabilité que la variable aléatoire appartienne à… … Wikipédia en Français
Loi Gamma — Distribution Gamma Loi Gamma Densité de probabilité / Fonction de masse Fonction de répartition … Wikipédia en Français
Loi gamma — Distribution Gamma Loi Gamma Densité de probabilité / Fonction de masse Fonction de répartition … Wikipédia en Français
Fonction de Dirichlet — Dirichlet (homonymie) Cette page d’homonymie répertorie les différents sujets et articles partageant un même nom. Johann Peter Gustav Lejeune Dirichlet est un mathématicien allemand du XIXe siècle dont le travail est surtout en théorie des… … Wikipédia en Français
Entier De Dirichlet — Pour les articles homonymes, voir Entier (homonymie). Dirichlet En mathématiques, et plus précisément en arithmétique modulai … Wikipédia en Français

Dictionnaires et Encyclopédies sur 'Academic'

Loi de Dirichlet

Sommaire

Densité de probabilité