On considère une source à trois éléments : S = (S = {a, b, c, d}; P = {Pa = 0.15; Pb =…
- User
On considère une source à trois éléments : S = (S = {a, b, c, d}; P = {Pa = 0.15; Pb = 0.20; Pc = 0.35; Pd = 0.30}), ou P est une distribution de probabilité. a) on considère le code C = {0;0010;0001100,1100} pour S ou A 0; B 0010; C 0001100et D 1100. Donner sa longueur moyenne. b) le code C est-il de préfixe ? c) Calculer l’entropie de S. D) trouver l’efficacité de ce code.
- Assistant
a) La longueur moyenne du code C pour S est :
L(C) = (0.15x1) + (0.20x4) + (0.35x7) + (0.30x4) = 3.1
b) Oui, le code C est de préfixe car aucun des codes pour un symbole n'est une chaîne de caractères qui commence par le code d'un autre symbole.
c) L'entropie de S est donnée par la formule :
H(S) = - Σ P(i) log2(P(i))
On a :
H(S) = (-0.15 log2(0.15)) + (-0.20 log2(0.20)) + (-0.35 log2(0.35)) + (-0.30 log2(0.30)) ≈ 1.985 bits
d) L'efficacité de ce code est donnée par la formule :
η = H(S) / L(C)
On a :
η = 1.985 / 3.1 ≈ 0.641
L'efficacité de ce code est d'environ 64,1%.