Cryptography Reference
In-Depth Information
2 Informationsquellen
2.1 Modellierung und Klassifizierung von Quellen
Im Abschn. 1 wurde schon darauf hingewiesen, dass die Berechnung von In-
formationsmengen eine Abstraktion von realen Vorgängen, d. h. eine Modell-
bildung erfordert. Das trifft im Besonderen auch für Informationsquellen zu.
Man muss sich deshalb im Folgenden immer bewusst sein, dass die Berech-
nung der Quelleninformation auf
Modelle
bezogen ist, die von realen Quellen
abgebildet sind. In diesem Zusammenhang sind zwei wesentliche Aspekte her-
vorzuheben:
•
Im Modell werden nur spezifische Eigenschaften des realen Objekts abge-
bildet, so dass immer eine Überprüfung notwendig ist, ob die Abbildungs-
genauigkeit für den vorgesehenen Zweck ausreicht.
Aufgrund der Abstraktion können mit gleichen Modellen physisch sehr ver-
schiedenartige Quellen beschrieben werden, wie wir in vielen Beispielen zei-
gen werden.
Gemäß der SHANNONschen Theorie erfolgt die Modellbildung auf wahrschein-
lichkeitstheoretischer Grundlage: Die reale Informationsquelle wird durch eine
vorgegebene Wahrscheinlichkeitsverteilung auf die Menge der möglichen Er-
eignisse der Quelle abgebildet.
Unter einem „Ereignis“ verstehen wir die Auswahl eines Symbols oder Zeichens
aus der Quelle; das kann im konkreten Fall ein Buchstabe, eine Ziffer, ein Mess-
wert, o. Ä. sein.
Beispiele für die Abbildung realer Informationsquellen sind:
•
•
Anzahl der Zeichen einer alphanumerischen Tastatur mit der Wahrschein-
lichkeitsverteilung der Tastenanschläge,
•
Anzahl unterscheidbarer Helligkeitswerte jedes Bildpunktes (z. B. eines Fern-
sehbildes) und ihre Auftrittswahrscheinlichkeiten,
•
Anzahl und Wahrscheinlichkeitsverteilung der Amplitudenstufen eines quan-
tisierten analogen Signals.
