Konzeptionalisierung: Naturanaloge Modelle - Cognitive Computing - page 220

Die Struktur und Arbeitsweise von autoassoziativen Netzen orientiert sich an dem Teil-
chenverhalten in Metallen. Werden Stoffe erhitzt und danach wieder abgekühlt, sinkt das
Energieniveau des Stoffes, bis ein stabiler, minimaler Zustand erreicht ist. Dieses physi-
kalische Verhalten wurde von Hopfield auf neuronale Netze übertragen. Dabei werden die
Neuronen wie Teilchen betrachtet. Alle diese neuronalen Teilchen sind vollständig unter-
einander verknüpft und auf eine direkte Rückkopplung wird verzichtet. Außerdem gibt es
keine Unterteilung in verschiedene Schichten, d. h. es existiert weder eine Eingabe- noch
eine Ausgabeschicht. Vielmehr finden Netzeingabe, Netzverarbeitung und Netzausgabe in
ein und derselben Neuronenschicht statt. Eine Eingabe wird an das Netz angelegt, in dem
die Neuronen diese Werte als initiale Aktivierung erhalten. Das Netz arbeitet dann so lan-
ge, bis keine Änderungen in den Aktivierungen der Neuronen mehr auftreten. Die stabilen
Aktivierungen der Neuronen stellen die Netzausgabe dar. Insofern hängt der Endzustand
eines solchen Netzes von der Netzeingabe und maßgeblich von den Gewichten der Verbin-
dungen ab. Anders als bei den bisher vorgestellten Netzen werden in einem Hopfield-Netz
die Verbindungsgewichte w ij nicht trainiert, sondern aus dem Muster heraus bestimmt.
In einem Neuron i eines Hopfield-Netzes wird eine Schwellwertfunktion für die Be-
stimmung der Aktivierung verwendet. Falls

net > Φ

Φ
Φ

, dann act 11

10
ttt act

( t + ) = ,

i i

net < , dann act ( t + ) =

i i

net = , dannac ( += 1 ) (). t

i i i

Man erkennt, dass keine Änderung der Aktivierung erfolgt, falls die Netzeingabe exakt
dem Schwellwert entspricht. Die Netzeingabe wird als Summe der Produkte aus Vorgän-
ger-Aktivierung und Verbindungsgewicht berechnet. Die Aktivierung wird anhand der
Netzeingabe unter Nutzung der Schwellwert-Funktion berechnet. Die Neuberechnung
der Aktivierung wird solange wiederholt, bis keine Änderung in den Aktivierungen mehr
vorkommt. Bei Hopfield-Netzen sind zwei unterschiedliche Arbeitsweisen bezüglich der
Änderungen der Gewichte möglich. Bei der synchronen Änderung berechnen alle Neuro-
nen ihre neue Aktivierung aufgrund der vorherigen Werte, bevor ein neuer Verarbeitungs-
schritt beginnt.

ALGORITHMUS : Synchrones Hopfield-Netz
WIEDERHOLE
VON i:= 1 BIS Anzahl der Neuronen TUE
Bestimme Netzeingabe: net[i] = ij * o j
Ausgabe gemäß der Schwellwertfunktion:
WENN net[i] > bias DANN o[i] = 1
ODER net[i] < bias DANN o[i] = 0
SONST keine Änderung
END - WENN
END - VON
SOLANGE keine Zustandsänderung mehr im Netz
ENDE-ALGORITHMUS