Cryptography Reference
In-Depth Information
Abschließend soll noch erwähnt werden, dass die Verbundquelle als Modell-
klasse nicht nur die Verbindung zu MARKOW-Quellen herstellt, sondern auch
die Grundlage zur wahrscheinlichkeitstheoretischen Beschreibung der Informa-
tionsübertragung bildet (s. Abschn. 4.4.2, Kanalmodell).
Hinweis
:
Aufgaben
s. Abschn. 2.4
2.3
Kontinuierliche Quellen
Das von einer kontinuierlichen Quelle ausgehende Signal kann in einem vorge-
gebenen Bereich jeden beliebigen Wert annehmen, d. h., die Menge der mög-
lichen Ereignisse dieser Quelle ist unbegrenzt. Unter dem Informationsaspekt
sind auch in diesem Fall nur
zufällige
Ereignisse von Bedeutung. Wir inte-
ressieren uns deshalb auch nur für zufällige Signale, deren Amplitudenwerte
meistens eine charakteristische Verteilung (z. B. Gleich- oder Normalvertei-
lung) aufweisen.
Aus der Mathematik wissen wir, dass für stetige Zufallsgrößen die
Wahr-
scheinlichkeitsdichte
eine charakteristische Kennfunktion darstellt. In Ana-
logie zur Auftrittswahrscheinlichkeit bei diskreten Ereignissen kann die Wahr-
scheinlichkeitsdichte interpretiert werden als die Wahrscheinlichkeit, mit der
ein zu einem bestimmten Zeitpunkt auftretender Funktionswert des zufälligen
Signals
x
(
t
)
in ein bestimmtes Intervall
Δ
x
fällt (wobei
Δ
x →
0
).
Zur Berechnung der
Entropie einer kontinuierlichen Quelle
bzw. eines
kontinuierlichen Signals wollen wir von einer diskreten Betrachtung der ste-
tigen Dichtefunktion ausgehen, damit bereits bekannte Beziehungen von den
diskreten Quellen übernommen werden können.
Dazu denkt man sich die Fläche
unter der Dichtefunktion
f
(
x
)
in
Teile gleicher Breite
Δ
x
zerlegt
(Bild 2.3.1).
Das Integral einer Teilfläche der
Breite
Δ
x
gibt dann die Wahr-
scheinlichkeit
p
(
x
i
)
dafür an, dass
die zufällige Größe
x
i
im Bereich
Δ
x
liegt:
f(x)
x
i
x
0
'
x
Bild 2.3.1
Wahrscheinlichkeitsdichte-
funktion
p
(
x
i
)=
f
(
x
)
d
x
≈
f
(
x
i
)Δ
x.
Δ
x
