Information Technology Reference
In-Depth Information
2
y
x
1
u
1
u
3
4
1
3
x
2
u
2
Abbildung 4.1: Ein einfaches (künstliches) neuronales Netz.
diziert werden, steht so das Neuron, zu dem die Verbindungen führen, zuerst. Man
erhält also folgendes Schema (mit
r
= |
U
|):
u
1
u
2
...
u
r
w
u
1
u
1
u
1
w
u
1
u
2
...
w
u
1
u
r
w
u
2
u
1
w
u
2
u
2
w
u
2
u
r
u
.
u
r
.
.
w
u
r
u
1
w
u
r
u
2
...
w
u
r
u
r
Diese Matrix ist von oben nach rechts zu lesen: Den Spalten sind die Neuronen zuge-
ordnet, von denen die Verbindungen ausgehen, den Zeilen die Neuronen, zu denen
sie führen. (Man beachte, dass Neuronen auchmit sich selbst verbunden sein können
—DiagonalelementederobigenMatrix).DieseMatrixunddenihrentsprechenden,
mit Verbindungsgewichten versehenen Graphen nennt man auch die
Netzstruktur
.
Nach der Netzstruktur unterscheidet man zwei Arten von neuronalen Netzen:
Ist der Graph, der die Netzstruktur eines neuronalen Netzes angibt, azyklisch, ent-
hält er also keine Schleifen
1
und keine gerichteten Kreise, so spricht man von einem
vorwärtsbetriebenen Netz
(feed forward network). Enthält der Graph dagegen Schlei-
fen oder gerichtete Kreise, so spricht man von einem
rückgekoppelten
oder
rekurren-
ten Netz
(recurrent network). Der Grund für diese Bezeichnungen ist natürlich, dass
in einem neuronalen Netz Informationen nur entlang der (gerichteten) Verbindun-
gen weitergegeben werden. Ist der Graph azyklisch, so gibt es nur eine Richtung,
nämlich vorwärts, also von den Eingabeneuronen zu den Ausgabeneuronen. Gibt es
dagegen Schleifen oder gerichtete Kreise, so können Ausgaben auf Eingaben rück-
gekoppelt werden. Wir werden uns in den folgenden Kapiteln zuerst mit verschie-
denen Typen von vorwärtsbetriebenen Netzen beschäftigen, da diese einfacher zu
analysieren sind. In den Kapiteln 8 und 9 wenden wir uns dann rückgekoppelten
Netzen zu.
Um die Definition der Struktur eines neuronalen Netzes zu veranschaulichen,
betrachten wir als Beispiel das aus drei Neuronen bestehende neuronale Netz (d. h.
U
= {
u
1
,
u
2
,
u
3
}
), das in Abbildung 4.1 gezeigt ist. Die Neuronen
u
1
und
u
2
sind Ein-
gabeneuronen (d. h.
U
in
= {
u
1
,
u
2
}
). Sie erhalten die externen Eingaben
x
1
bzw.
x
2
.
Das Neuron
u
3
ist das einzige Ausgabeneuron (d. h.
U
out
= {
u
3
}
). Es liefert die Aus-
gabe
y
des neuronalen Netzes. In diesem Netz gibt es keine versteckten Neuronen
(d. h.
U
hidden
=
).
1
Eine Schleife ist eine Kante von einem Knoten zu diesem Knoten selbst, also eine Kante
e
=(
v
,
v
)
mit
einem Knoten
v
V
.
