Modellierung lernender Systeme durch Neuronale Netze (NN) - Modellierung komplexer Prozesse durch naturanaloge Verfahren - page 121

nur einmal durchlaufen zu lassen, also einmal zur Ausgabeschicht, dann zurück zur Eingabe-
schicht und dann noch einmal zur Ausgabeschicht.
Da auch dieser Punkt in der Literatur häufig nicht genau formuliert wird, muss darauf hinge-
wiesen werden, dass die Unterschiede zwischen diesen beiden Verfahren insbesondere bei der
Veränderung der Gewichtswerte während der Lernprozesse relevant werden. Technisch gese-
hen läuft ein feed forward Verfahren darauf hinaus, dass man nur die Gewichtswerte der Ver-
bindungen „von oben nach unten“ berücksichtigt; will man demnach ein feed forward Netz-
werk konstruieren, was für viele Fälle durchaus ausreicht, braucht man im Grunde nur die
Werte in der Gewichtsmatrix oberhalb der Hauptdiagonale zu bestimmen; die übrigen Werte
können auch auf Null gesetzt werden und werden im Lernprozess nicht verändert.
Bei einem feed back Verfahren müssen alle Werte berücksichtigt werden, so dass beim feed
forward Verfahren demnach nur eine Hälfte der Gewichtsmatrix zur Berechnung herangezogen
wird, beim feed back Verfahren dagegen die gesamte Matrix. Dies war oben gemeint, als wir
darauf verwiesen haben, inwiefern auch die Informationen über die Richtung der Netzwerk-
dynamik praktisch immer schon in der Gewichtsmatrix sowie den Regeln für ihre Variation
enthalten sind (siehe unten).
Es muss hier zusätzlich darauf verwiesen werden, dass wieder einmal eine unglückliche Ter-
minologie vorliegt. Streng genommen sind alle NN feed back Systeme, wenn man diesen Aus-
druck in seiner normalen Bedeutung, nämlich der der „Rückkoppelung“ verwendet. Das glei-
che gilt für ZA oder BN. Hier geht es um einen sehr speziellen Fall von Rückkoppelung, näm-
lich um die Umkehrung der Aktivierungsausbreitung. Diese sehr spezielle Bedeutung von feed
back gibt es nur bei NN, obwohl man natürlich derartige Richtungsänderungen auch bei BN
oder ZA einführen kann, falls es bei einem entsprechenden Problem als sinnvoll erscheint.
Die folgende graphische Darstellung veranschaulicht beide Informationsflüsse:
Bild 4-6 Feed forward und feed back Netzwerke im Vergleich
Es muss betont werden, dass dies lediglich zwei von vielen Möglichkeiten sind, Netzwerke zu
konstruieren. Z. B. breitet sich bei so genannten rekurrenten Netzwerken die Aktivierung nicht
nur „vertikal“ aus, also direkt von Schicht zu Schicht wie bei den feed forward und feed back
Verfahren, sondern auch „horizontal“, d. h., die Aktivierungsausbreitung verläuft auch zwischen
den Neuronen einer Schicht. Dies wird insbesondere bei den so genannten interaktiven Netz-
werken ausgenutzt.
4.2.4 Lernregeln
Durch Topologie und Interaktionsregeln lässt sich ein NN ebenso festlegen wie ein „normales“
BN, aus dem bisher durch Erweiterung und teilweise auch durch Vereinfachung die Grund-