Entropie conditionnée

Entropie conditionnée

Entropie conditionnelle

L'entropie conditionnelle est une mesure d'entropie utilisée en théorie de l'information. L'entropie conditionnelle mesure l'entropie restante provenant de la variable aléatoire Y, si l'on connait parfaitement la seconde variable aléatoire X. C'est l'entropie de Y conditionnée par X. Cette entropie est notée H(Y | X). Comme les autres entropies, l'entropie conditionnelle se mesure généralement en bits.

Étant données deux variables aléatoires X et Y avec pour entropies respectives H(X) et H(Y), et pour entropie conjointe H(X,Y), l'entropie conditionnelle de Y étant donné X est définie par : H(Y|X) \equiv H(X,Y) - H(X)

Intuitivement, si le système combiné contient H(X,Y) bits d'information, et si nous connaissons parfaitement la variable aléatoire X, pour coder le système on peut économiser H(X) bits, et on n'a plus besoin que de H(Y | X) bits.

H(Y | X) = 0 si et seulement si la variable aléatoire Y est complètement déterminée par la variable aléatoire X. Inversement H(Y | X) = H(Y) si et seulement si Y et X sont des variables aléatoires indépendantes.

Voir aussi

Ce document provient de « Entropie conditionnelle ».

Wikimedia Foundation. 2010.

Contenu soumis à la licence CC-BY-SA. Source : Article Entropie conditionnée de Wikipédia en français (auteurs)

Игры ⚽ Нужна курсовая?

Regardez d'autres dictionnaires:

  • Entropie Conditionnelle — L entropie conditionnelle est une mesure d entropie utilisée en théorie de l information. L entropie conditionnelle mesure l entropie restante provenant de la variable aléatoire Y, si l on connait parfaitement la seconde variable aléatoire X. C… …   Wikipédia en Français

  • Entropie conditionnelle — L entropie conditionnelle est une mesure d entropie utilisée en théorie de l information. L entropie conditionnelle mesure l entropie restante provenant de la variable aléatoire Y, si l on connait parfaitement la seconde variable aléatoire X. C… …   Wikipédia en Français

  • Decroissance (economie) — Décroissance (économie) La décroissance est un ensemble d idées soutenu par certains mouvements anti productivistes, anti consuméristes et écologistes appelés « objecteurs de croissance ». Ils rejettent l objectif, en tant que tel, d… …   Wikipédia en Français

  • Decroissance soutenable — Décroissance (économie) La décroissance est un ensemble d idées soutenu par certains mouvements anti productivistes, anti consuméristes et écologistes appelés « objecteurs de croissance ». Ils rejettent l objectif, en tant que tel, d… …   Wikipédia en Français

  • Décroissance (Économie) — La décroissance est un ensemble d idées soutenu par certains mouvements anti productivistes, anti consuméristes et écologistes appelés « objecteurs de croissance ». Ils rejettent l objectif, en tant que tel, d une augmentation du taux… …   Wikipédia en Français

  • Décroissance conviviale — Décroissance (économie) La décroissance est un ensemble d idées soutenu par certains mouvements anti productivistes, anti consuméristes et écologistes appelés « objecteurs de croissance ». Ils rejettent l objectif, en tant que tel, d… …   Wikipédia en Français

  • Décroissance durable — Décroissance (économie) La décroissance est un ensemble d idées soutenu par certains mouvements anti productivistes, anti consuméristes et écologistes appelés « objecteurs de croissance ». Ils rejettent l objectif, en tant que tel, d… …   Wikipédia en Français

  • Décroissance planifiée — Décroissance (économie) La décroissance est un ensemble d idées soutenu par certains mouvements anti productivistes, anti consuméristes et écologistes appelés « objecteurs de croissance ». Ils rejettent l objectif, en tant que tel, d… …   Wikipédia en Français

  • Décroissance soutenable — Décroissance (économie) La décroissance est un ensemble d idées soutenu par certains mouvements anti productivistes, anti consuméristes et écologistes appelés « objecteurs de croissance ». Ils rejettent l objectif, en tant que tel, d… …   Wikipédia en Français

  • Décroissance économique — Décroissance (économie) La décroissance est un ensemble d idées soutenu par certains mouvements anti productivistes, anti consuméristes et écologistes appelés « objecteurs de croissance ». Ils rejettent l objectif, en tant que tel, d… …   Wikipédia en Français

Share the article and excerpts

Direct link
… Do a right-click on the link above
and select “Copy Link”