Théorème du codage de source
- Théorème du codage de source
-
Le Théorème du codage de source (ou premier théorème de Shannon, ou moins usité en français, théorème de codage sans bruit) est un théorème énoncé par Claude Shannon en 1948, qui énonce la limite théorique pour la compression d'une source.
Le raisonnement de Shannon se base sur des vecteurs de n symboles et sur une source stationnaire (suite de variables indépendantes et identiquement distribuées). Le théorème montre que lorsque 
, la longueur moyenne du code tend vers l'entropie.
Pour les codes par symboles, le théorème se simplifie en: 
.
Bibliographie
Wikimedia Foundation.
2010.
Contenu soumis à la licence CC-BY-SA. Source : Article Théorème du codage de source de Wikipédia en français (auteurs)
Regardez d'autres dictionnaires:
Codage De Source — Le but du codage de source peut être de compresser l information répétitive du langage, sa redondance. Pour toute langue, on peut considérer l entropie d un message, c est à dire la quantité d information transmise. Ceci donne lieu au théorème du … Wikipédia en Français
Codage de source — Le but du codage de source peut être de compresser l information répétitive du langage, sa redondance. Pour toute langue, on peut considérer l entropie d un message, c est à dire la quantité d information transmise. Ceci donne lieu au théorème du … Wikipédia en Français
Codage entropique — Le codage entropique (ou codage statistique à longueur variable) est une méthode de codage de source sans pertes, dont le but est de transformer la représentation d une source de données pour sa compression et/ou sa transmission sur un canal de… … Wikipédia en Français
Théorème de rice — En théorie de la calculabilité, le théorème de Rice dit que toute propriété non triviale (c’est à dire qui n est pas toujours vraie ou toujours fausse) sur la sémantique dénotationnelle d un langage de programmation Turing complet est indécidable … Wikipédia en Français
Théorème de Rice — En théorie de la calculabilité, le théorème de Rice dit que toute propriété non triviale (c’est à dire qui n est pas toujours vraie ou toujours fausse) sur la sémantique dénotationnelle d un langage de programmation Turing complet est indécidable … Wikipédia en Français
Theorie des codes — Théorie des codes En théorie de l information, la théorie des codes traite des codes et donc de leurs propriétés et leurs aptitudes à servir sur différents canaux de communication. On distingue deux modèles de communication : avec et sans… … Wikipédia en Français
Théorie des codes — En théorie de l information, la théorie des codes traite des codes et de leurs propriétés et leurs aptitudes à servir sur différents canaux de communication. On distingue deux modèles de communication : avec et sans bruit. Sans bruit, le… … Wikipédia en Français
Entropie de Shannon — L entropie de Shannon, due à Claude Shannon, est une fonction mathématique qui, intuitivement, correspond à la quantité d information contenue ou délivrée par une source d information. Cette source peut être un texte écrit dans une langue donnée … Wikipédia en Français
Information quantique — La théorie de l information quantique, parfois abrégée simplement en information quantique, est un développement de la théorie de l information de Claude Shannon exploitant les propriétés de la mécanique quantique, notamment le principe de… … Wikipédia en Français
Information Quantique — L information quantique et l informatique quantique sont deux domaines qui se jouxtent : informellement, les algorithmes Q (pour « quantiques »), par exemple l algorithme de Shor, de Grover, etc., ont été davantage la création des… … Wikipédia en Français
