Information Technology Reference
In-Depth Information
Abb. 4.14
Jordan-Netz
zu berücksichtigen. Es werden also Netzstrukturen benötigt, die über ein Erinnerungs-
vermögen verfügen. Dies wird dadurch realisiert, dass solche Netze bei der Bearbeitung
einer Eingabe auf die vorher abgeleiteten Ergebnisse zurückgreifen. Genau diese Mög-
lichkeiten bieten
partiell rückgekoppelte Netze
. Die Architektur dieser Netze ist dabei so
angelegt, dass die zeitlichen Aufeinanderfolgen der Eingabedaten einen Einfluss auf die
jeweiligen Ergebnisse haben. Dazu werden Informationen aus einem Verarbeitungsschritt
zeitverzögert in die Bearbeitung des nachfolgenden Musters übernommen. Partiell rück-
gekoppelte Netze sind daher immer dann einsetzbar, wenn die zu ermittelnden Netzaus-
gaben nicht nur von der aktuellen Eingabe, sondern auch von der Historie der Arbeit des
Netzes abhängt.In den sogenannten
Jordan-Netzen
wird dazu die Ausgabe im Zeitschritt
t rückgekoppelt und im Zeitschritt t + 1 wieder als Teil der Eingabe betrachtet. Sie ver-
wenden dazu sogenannte Kontext-Neuronen, deren Anzahl genau der Anzahl der Aus-
gabe-Neuronen entspricht.
Aus der Abbildung ist die prinzipielle Architektur ersichtlich (Abb.
4.14
). Ein- und
Ausgabeschicht sowie die innere Schicht können frei gestaltet werden. Die Zahl der Kon-
text-Neuronen ist festgelegt und ist gleich der Anzahl der Ausgabe-Neuronen. Dabei ist
die Eingabeschicht voll mit der inneren Schicht und diese wiederum voll mit der Aus-
gabeschicht vernetzt. Dazu besteht je eine Verbindung von einem Ausgabe-Neuron zu
einem zugehörigen Kontext-Neuron. Dabei ist die Verbindung zwischen dem Ausgabe-
Neuron und dem Kontext-Neuron mit einem festen Gewicht w = 1 versehen und kann
nicht einem Training unterzogen werden. Diese Kontextzellen sind voll mit der inneren
Schicht verbunden, wobei diese nach innen gerichteten Verbindungen wie normale vor-
wärts gerichtete Verbindungen betrachtet und entsprechend trainiert werden können. Da
die einzigen rückwärts ausgerichteten Verbindungen feste Gewichte besitzen, sind alle
