Database Reference
In-Depth Information
A
Wahrscheinlichkeit und Information
A.1
Die Wahrscheinlichkeit von Formeln
Ublicherweise fuhrt man den Wahrscheinlichkeitsbegriff mit Hilfe von Wahrschein-
lichkeitsmaßen uber Wahrscheinlichkeitsraumen - im Wesentlichen also uber Men-
genalgebren - ein. Wir werden hier nur spezielle Mengenalgebren betrachten,
namlich Potenzmengen (= Mengen aller Teilmengen) einer Menge Ω. Diese sind
trivialerweise bzgl. Vereinigung, Durchschnitt und Komplementbildung abgeschlos-
sen, so dass die Frage der
Messbarkeit
einer Menge (formal lediglich ihre Zugehorig-
keit zur betrachteten Mengenalgebra) nicht ausdrucklich diskutiert werden muss:
Alle Teilmengen von Ω sind Elemente der Potenzmenge 2
Ω
und daher messbar im
wahrscheinlichkeitstheoretischen Sinne.
Uberdies werden wir voraussetzen, dass die betrachtete Menge Ω endlich ist,
so dass wir insgesamt hier nur einen kleinen, fur Anwendungen aber durchaus aus-
reichenden Ausschnitt der Wahrscheinlichkeitstheorie prasentieren.
Definition A.1 (Wahrscheinlichkeitsfunktion)
Eine
Wahrscheinlichkeitsfunk-
tion uber einer (endlichen) Menge
Ω ist eine Abbildung
P :2
Ω
→
[0, 1]
die den folgenden Eigenschaften genugt:
(P1) P (Ω) = 1
(P2) Sind M
1
und M
2
disjunkte Mengen, so gilt fur ihre Vereinigung
P (M
1
∪
M
2
)=P (M
1
)+P (M
2
),
wenn
M
1
∩
M
2
=
∅
Die obige Eigenschaft (P2) verlangt nur die endliche Additivitat einer Wahr-
scheinlichkeitsfunktion. Dies ist sicherlich im Hinblick auf die vorausgesetzte End-
lichkeit von Ω ausreichend. Fur Wahrscheinlichkeitsmaße im Allgemeinen wird die
sog. σ
-Additivitat
gefordert, d.h. die Additivitat uber abzahlbar unendliche Vereini-
gungen. Fur den Bereich der Wissensreprasentation benotigt man im Allgemeinen
nur die endliche Additivitat, und deswegen wollen wir es hier dabei belassen.
Definition A.2 (Elementarereignis, Ereignis)
Sei Ω eine Menge, auf der eine
Wahrscheinlichkeitsfunktion gegeben ist.
Ein Element ω
∈
Ω wird als
Elementarereignis
bezeichnet, eine Teilmenge
M
⊆
Ωals
Ereignis
.