Information Technology Reference
In-Depth Information
Die Ausgabe eines Neurons wird mittels der Ausgabefunktion
∫
=
Id
out
aus der Aktivierung des Neurons bestimmt, wobei Id die identische Funktion bezeichnet.
Die Aktivierung wird durch die Anwendung der Aktivierungsfunktion auf die Netzeinga-
be berechnet, wobei die Netzeingabe wiederum von den Werten der Verbindungsgewichte
abhängt:
=
∑
*
net
o w.
j
i
ij
Nunmehr lässt sich die eingangs definierte Fehlerfunktion
∇=−
w
ηδ δ
*(
E w
ij
/
).
konkretisieren:
∇=−
w
ηδ δ
*(
E
/
o
)*(
δ
o
/
δ
net
)*(
δ
net
/
δ
w
).
ij
j
j
j
j
ij
Der Fehler ist abhängig vom Ausgabewert, der Ausgabewert ist abhängig von der Netzein-
gabe und diese wiederum ist abhängig von dem einzelnen Gewicht. Die Abhängigkeit der
Netzeingabe von einem Verbindungsgewicht w
ij
wird durch die Summationsformel signi-
fikant. Differenziert man nach einem konkreten Gewicht w
ij
, entfallen die Summanden bis
auf den einen Summanden k = i, der w
ij
enthält:
δ
net wo
j
/
δ
=
.
ij
i
Die Abhängigkeit der Ausgabe von der Netzeingabe ist durch die Aktivierungsfunktion
gegeben, wobei dies voraussetzt, dass die Aktivierungsfunktion differenzierbar ist:
=
∫
δo et
/
(
net
).
j
j
j
act
Daher greift man in der Praxis zum einen auf die Identität als Aktivierungsfunktion ∫
act
= Id
zurück, was ∫
act
= 1 bedeutet. Zum anderen kommt auch die logistische Funktion
f
Logistic
() /(
x =+−
11
e x
)
zum Einsatz und damit deren Ableitung
δo et
/
=
o
*(
1
−
o
).
j
j
j
j
