Cryptography Reference
In-Depth Information
ld e und ln x ≤ x − 1 erhalten wir für x = 2 −l i
p i
Mit ld x = ln x ·
:
= ld e
i
.
p i 2 −l i
ld e
i
ld e
i
p i ln 2 −l i
2 −l i
p i
p i 1
1
Da
2 −l i
1 0
i
entsprechend Gl. (3.1) sein muss, ist obige Bedingung erfüllt.
Für die Koderedundanz R K gilt demnach 2
R K = l m − H m 0 .
(3.4)
Was bedeutet eigentlich „Koderedundanz“ nach Gl. (3.4)? R K > 0 bedeutet,
dass die Kodewortlänge l m prinzipiell mehr Darstellungsmöglichkeiten bietet,
als bei der Kodierung genutzt werden. Bei der Quellenkodierung ist es meistens
verfahrensbedingt, dass diese potentiellen Möglichkeiten nicht vollständig ge-
nutzt werden können. Uns interessieren hier natürlich vor allem Quellenkodes
mit möglichst kleiner Koderedundanz.
In diesem Zusammenhang soll auf den Begriff des kompakten oder optima-
len Kodes hingewiesen werden: Darunter versteht man denjenigen Kode, der
unter allen dekodierbaren Kodes einer Quelle die kleinstmögliche Redundanz
aufweist. Wie man solche Kodes findet, werden wir im nächsten Abschnitt
zeigen.
Beispiel 3.3.1
Für die dekodierbaren Kodes im Beispiel 3.2.2 ist die Koderedundanz zu be-
rechnen, wobei folgende Quellenstatistik angenommen wird:
( p ( x i )) = (0 , 60 , 10 , 10 , 10 , 05 0 , 05) .
2 Es kann durchaus sinnvoll sein, bei der Ermittlung der Koderedundanz den Informations-
gehalt eines kodierten Quellenzeichens mit H QZ anzugeben. Dieser ergibt sich als Produkt
aus mittlerer Kodewortlänge l m
und maximalem Informationsgehalt H K
eines Kanalzei-
chens, d. h.
H QZ = l m H K
und damit
R K = H QZ − H m = l m H K − H m .
Bei einem Binärkode ist H K = ld 2=1 bit
Bit
bzw. H QZ = l m · 1 in bit
QZ
(s. a. Abschn. 5.2).
Eine Beschränkung auf Binärkodes vernachlässigt deshalb meist diesen Zusammenhang in
der allgemeinen Beschreibung, wie auch in Gl. (3.4).
Search WWH ::




Custom Search