Cryptography Reference
In-Depth Information
Alphabet von
N
Zeichen
x
i
∈ X
=
{x
0
,x
1
, ..., x
N−
1
}
1
. Für die Senke (z. B.
Betrachter) stellt sich der Kanalausgang als eine Quelle
Y
mit
M
Zeichen
y
j
∈ Y
=
{y
0
,y
1
, ..., y
M−
1
}
dar.
Damit kann das Modell „Quelle-Kanal-Senke“ im Fall der diskreten Übertra-
gung als Verbundquelle (s. Abschn. 2) aufgefasst werden. Die Quellen
X
und
Y
sind durch den Übertragungskanal verbunden und dadurch nicht unabhängig
voneinander. Während bei den Betrachtungen zu den Verbundquellen die Ver-
bundentropie eine wesentliche Rolle spielte, wird jetzt dem Anteil der Entropie
besondere Aufmerksamkeit gewidmet, der beiden Quellen gemeinsam ist. Für
die Berechnung der einzelnen Entropien werden die bekannten Beziehungen
verwendet. Der Unterschied besteht allein in der Tatsache, dass sie hier sinn-
vollerweise andere Bezeichnungen bekommen.
H(X|Y)
Senke
H(X)
Quelle
X
H
T
H(Y)
Y
H(Y|X)
H
(
X
)
Entropie am Kanaleingang
H
(
Y
)
Entropie am Kanalausgang
H
T
Transinformation
H
(
X|Y
)
Äquivokation (Rückschlussentropie)
H
(
Y
|
X
)
Irrelevanz (Störentropie)
Bild 4.4.1
BERGERsches Entropiemodell des Übertragungskanals
2
Im Idealfall, d. h., der Kanal ist ungestört, gilt
H
(
X
)=
H
(
Y
)=
H
T
.
(4.3)
1
Die Indizierung der Elemente beginnt bei „0“, weil dadurch eine plausible Zuordnung der
Signalzustände mit den Elementen einer Binärquelle 0 und 1 möglich ist.
2
Beachte: Die Quelle
X
in diesem Bild beschreibt den Kanaleingang und ist nicht identisch
mit der Quelle in den Bildern 1.1.1 und 5.2.1 (entsprechendes gilt für die Senke
Y
)!
