Information Technology Reference
In-Depth Information
Definition 4.3
Ein (künstliches)
neuronales Netz
ist ein (gerichteter) Graph G
=(
U
,
C
)
,
dessen Knoten u
U
Neuronen
(neurons, units) und dessen Kanten c
C
Ve r b i ndungen
(connections) heißen. Die Menge U der Knoten ist unterteilt in die Menge U
in
der
Eingabe-
neuronen
(input neurons), die Menge U
out
der
Ausgabeneuronen
(output neurons) und
die Menge U
hidden
der
versteckten Neuronen
(hidden neurons). Es gilt
U
=
U
in
U
out
U
hidden
,
U
in
=
,
U
out
=
,
U
hidden
(
U
in
U
out
)=
.
Jeder Verbindung
(
v
,
u
)
Cistein
Gewicht
w
uv
zugeordnet und jedem Neuron u
U
drei (reellwertige) Zustandsgrößen: die
Netzeingabe net
u
(network input), die
Aktivie-
rung act
u
(activation) und die
Ausgabe out
u
(output). Jedes Eingabeneuron u
U
in
be-
sitzt außerdem eine vierte (reellwertige) Zustandsgröße, die
externe Eingabe ext
u
(external
input). Weiter sind jedem Neuron u
UdreiFunktionenzugeordnet:
f
(
u
)
net
: R
2| pred(
u
)|+
1
(
u
)
IR ,
die
Netzeingabefunktion
f
(
u
)
act
: R
2
(
u
)
IR ,
die
Aktivierungsfunktion
und
f
(
u
)
out
: R
die
Ausgabefunktion
IR ,
mit denen die Netzeingabe
net
u
,dieAktivierung
act
u
und die Ausgabe
out
u
des Neurons u
berechnet werden.
1
(
u
)
und
2
(
u
)
hängen von der Art und den Parametern der Funktionen
ab (siehe weiter unten).
Die Neuronen eines neuronalen Netzes werden in Eingabe-, Ausgabe- und versteck-
te Neuronen unterteilt, um festzulegen, welche Neuronen eine Eingabe aus der Um-
gebung erhalten (Eingabeneuronen) und welche eine Ausgabe an die Umgebung
abgeben (Ausgabeneuronen). Die übrigen Neuronen haben keinen Kontakt mit der
Umgebung (sondern nur mit anderen Neuronen) und sind insofern (gegenüber der
Umgebung) „versteckt“.
Man beachte, dass die Menge
U
in
der Eingabeneuronen und die Menge
U
out
der
Ausgabeneuronen nicht disjunkt sein müssen: Ein Neuron kann sowohl Eingabe- als
auch Ausgabeneuron sein. In Kapitel 8 werden wir sogar neuronale Netze bespre-
chen, in denen alle Neuronen sowohl Eingabe- als auch Ausgabeneuronen sind und
es keine versteckten Neuronen gibt.
Man beachte weiter, dass im Index eines Gewichtes
w
uv
das Neuron, auf das
die zugehörige Verbindung gerichtet ist, zuerst steht. Der Grund für diese auf den
ersten Blick unnatürlich erscheinende Reihenfolge ist, dass man den Graphen des
neuronalen Netzes oft durch eine Adjazenzmatrix beschreibt, die statt der Werte 1
(Verbindung) und 0 (keine Verbindung) die Gewichte der Verbindungen enthält (ist
ein Gewicht 0, so fehlt die zugehörige Verbindung). Aus Gründen, die in Kapitel 5
genauer erläutert werden, ist es günstig, die Gewichte der zu einem Neuron führen-
den Verbindungen in einer Matrix
z
eile (und nicht in einer Matrix
s
palte) anzugeben.
Da aber die Elemente einer Matrix nach dem Schema „Zeile zuerst, Spalte später“ in-
