Information Technology Reference
In-Depth Information
Die Abhängigkeit des Fehlers vom Ausgabewert wird als Fehlersignal δ eingeführt. Dabei
kann die Abhängigkeit dieses Fehlers von der Aktivität des Neurons nur für ein Ausgabe-
neuron direkt angegeben werden:
δEo t o
j
/
=− −
(
).
j
j
Zusammenfassend ergibt sich für das Fehlersignal δ unter Verwendung der logistischen
Funktion als Aktivierungsfunktion, falls j Ausgabe-Neuron:
δ
j
=
o
*(
1
−
o
)*(
t o
−
)
j
j
j
j
und falls j inneres Neuron:
∑
δ
=
o
*(
1
−
o
)* *.
δ
w
j
j
j
k
jk
Damit wird das Fehlersignal eines Neurons einer inneren Schicht anhand der Fehlersignale
aller nachfolgenden Zellen und der zugehörigen Verbindungsgewichte bestimmt. Insofern
wird der Fehler von der Ausgabeschicht zur ersten inneren Schicht rückwärts aufbereitet.
ALGORITHMUS
: Backpropagation
nZyklen:= 0
WIEDERHOLE
fehler:= 0
nZyklen:= nZyklen +1
VON
i:= 1
BIS
Anzahl der Muster
TUE
Musteri an Eingabeschicht anlegen
VON
j:= 1
BIS
Anzahl-Ausgabe-Neuronen
TUE
Bestimme Ausgabewerte der Ausgabe-Neuronen oj
Bestimme Fehlerwert f
j
:= t
j
-o
j
Bestimme Fehlersignal fsig
j
:= o
j
*(1-o
j
)*f
j
fehler:= fehler+f
j
2
END-VON
VON
s:= Ausgabeschicht ZURÜCK
BIS
Erste-Schicht
TUE
VON
k:= 1
BIS
Anzahl-Neuronen-Schichts
TUE
fsum:= 0
VON
m:=1
BIS
Anzahl-Neuronen-Schicht (s+1)
TUE
fsum:=w
km
*fsig(s+1)m
ENDE-VON
fsig
sk
:=o
sk
* (1-o
sk
)*fsum
VON
m:= 1
BIS
Anzahl-Neuronen-Schicht
TUE
w
km
:= w
km
+ Lernrate * o
sk
*fsig
(s+1)m
ENDE-VON
ENDE-VON
ENDE-VON
ENDE-VON
SOLANGE
fehler < tolerierbarer-Fehler
ODER
Zyklenzahl
ENDE-ALGORITHMUS
