Information Technology Reference
In-Depth Information
4
4
4
e
e
e
3
3
3
4
4
4
2
2
2
3
3
3
1
1
1
2
2
2
1
1
1
Fehler für x = 0
Fehler für x = 1
Fehlersumme
Abbildung 3.14: Fehler für die Berechnung der Negation unter Berücksichtigung wie
weit der Schwellenwert über- bzw. unterschritten ist.
Um dieses Problem zu umgehen, verändern wir die Fehlerfunktion. In den Be-
reichen, in denen das Schwellenwertelement die falsche Ausgabe liefert, berücksich-
tigen wir, wie weit der Schwellenwert überschritten (für eine gewünschte Ausgabe
von 0) oder unterschritten ist (für eine gewünschte Ausgabe von 1). Denn anschau-
lich kann man ja sagen, dass die Berechnung „umso falscher“ ist, je weiter bei einer
gewünschten Ausgabe von 0 der Schwellenwert überschritten bzw. je weiter bei ei-
ner gewünschten Ausgabe von 1 der Schwellenwert unterschritten ist. Die so ver-
änderte Fehlerfunktion ist in Abbildung 3.14 dargestellt. Das linke Diagramm zeigt
wieder den Fehler für die Eingabe x = 0, das mittlere Diagramm den Fehler für die
Eingabe x = 1unddasrechteDiagrammdieSummedieserEinzelfehler.
Wenn nun e i n Schwe l l enwe r t e l ement e i ne f eh l e rha f t e Ausgabe l i e f e r t , ve r ände rn
wir das Gewicht und den Schwellenwert so, dass der Fehler geringer wird, d. h.,
wir versuchen, „im Fehlergebirge abzusteigen“. Dies ist nun möglich, da wir bei der
veränderten Fehlerfunktion „lokal“ (d. h., ohne Anschauung der gesamten Fehler-
funktion, sondern nur unter Berücksichtigung des Funktionsverlaufs an dem durch
Gewicht und Schwellenwert gegebenen Punkt) die Richtungen ablesen können, in
denenwir Gewicht und Schwellenwert verändernmüssen: Wir bewegen uns einfach
in die Richtung des stärksten Fallens der Fehlerfunktion. Die sich ergebenden Verän-
derungsrichtungen sind in Abbildung 3.15 noch einmal schematisch dargestellt. Die
Pfeile geben an, wie das Gewicht und der Schwellenwert in den verschiedenen Re-
gionen des Parameterraums verändert werden sollten. In den Regionen, in denen
keine Pfeile eingezeichnet sind, bleiben Gewicht und Schwellenwert unverändert,
da hier kein Fehler vorliegt.
Die in Abbildung 3.15 dargestellten Änderungsregeln lassen sich auf zwei Wei-
sen anwenden. Erstens können wir die Eingaben x = 0und x = 1abwechselnd
betrachten und jeweils das Gewicht und den Schwellenwert entsprechend der zuge-
hörigen Regeln ändern. D. h., wir ändern Gewicht und Schwellenwert zuerst gemäß
dem linken Diagramm, dann gemäß demmittleren, dann wieder gemäß dem linken
usw., bis der Fehler verschwindet. Diese Art des Trainings nennt man Online-Lernen
bzw. Online-Training ,damitjedemTrainingsbeispiel,dasverfügbarwird,einLern-
schritt ausgeführt werden kann (engl. online :mitlaufend,schritthaltend).
Die zweite Möglichkeit besteht darin, die Änderungen nicht unmittelbar nach
jedem Trainingsbeispiel vorzunehmen, sondern sie über alle Trainingsbeispiele zu
summieren. Erst am Ende einer (Lern-/Trainings-)Epoche ,d.h.,wennalleTrainings-
Search WWH ::




Custom Search