- Algorithme de Lloyd-Max
-
Pour les articles homonymes, voir Lloyd.
L'algorithme de Lloyd-Max est un algorithme qui permet de construire le quantifieur scalaire optimal.
« Quantifieur optimal » veut dire, en fait, que c'est le quantifieur qui minimise la distorsion, mesurée par l'erreur quadratique moyenne. Le quantifieur est alors dit optimal au sens de l'erreur quadratique moyenne.
L'optimalité du quantifieur est assurée par deux conditions sur les niveaux de reconstruction et de décision, découvertes par Lloyd en 1957. Il fournit aussi un algorithme, qui permet de construire itérativement le quantifieur optimal.
Sommaire
Historique
L'algorithme est développé par Lloyd en 1957, mais malheureusement non publié. il sera redécouvert par Max en 1960.
Conditions d'optimalités
Nous reprenons les notations de l'article Quantification (signal), où le quantifieur possède N + 1 niveaux de reconstructions rk, et N + 1 niveaux de décision tk.
Pour une source x de densité de probabilité pX(x), les conditions d'optimalités sur les niveaux de reconstructions rk et de décision tk sont obtenues en minimisant l'erreur de reconstruction (appelée aussi distorsion):
Les conditions d'optimalités sont alors données par:
- (1)
- (2)
Cas particulier
Dans le cas d'une source uniforme: , les conditions d'optimalités se simplifient:
ce qui donne, en injectant dans (1):
- tk − tk − 1 = tk + 1 − tk = q = cste
Le pas de quantification q est constant, et égale à . Les niveaux de reconstruction et de décisions sont alors régis par les règles simples:
- tk = tk − 1 + q
On retrouve le quantifieur scalaire uniforme, qui est donc optimal pour une source de distribution uniforme.
Algorithme de Lloyd-Max
Voir aussi
Références
- M. Antonini and V. Ricordel. Chapitre Quantification, pages 45-72. Traité IC2. Hermès, Paris, janvier 2002.
- Quantization, Robert M. Gray, David L. Neuhoff, IEEE Trans. on Inf. Theory, 1998
- Source Coding Theory, Robert M. Gray
- S. P. Lloyd, Least squares quantization in PCM, IEEE Trans. Inform. Theory, vol. IT-28, pp. 129-137, Mar. 1982
- Anil K. Jain, Fundamentals of digital image processing, Prentice hall series, 1989.
Wikimedia Foundation. 2010.