Information Technology Reference
In-Depth Information
Hingegen wird bei der asynchronen Änderung ein Neuron akzidentiell ausgewählt, dann
seine neue Aktivierung berechnet und diese neue Aktivierung bei den weiteren Berech-
nungen sofort berücksichtigt.
ALGORITHMUS
: Asynchrones Hopfield-Netz
WIEDERHOLE
Wähle zufällig Neuron i aus
Bestimme Netzeingabe: net[i] =
ij
* o
j
Ausgabe gemäß der Schwellwertfunktion:
WENN
net[i] > bias
DANN
o[i] = 1
ODER
net[i] < bias
DANN
o[i] = 0
SONST
keine Änderung
END-WENN
SOLANGE
keine Zustandsänderung mehr im Netz
ENDE-ALGORITHMUS
Bei beiden Varianten ergibt sich die Netzausgabe letztlich aus der Aktivierung der Neuro-
nen, nachdem keine Veränderung der Aktivierungen mehr auftreten und somit der Ein-
schwingvorgang beendet werden kann. Synchrone Netze neigen dazu, dass sie bei be-
stimmten Mustern zu oszillieren beginnen, so beispielsweise, wenn die Aktivierung act
ij
der ursprünglichen Aktivierung act entspricht. In solchen Fällen kann die asynchrone
Variante unter Umständen helfen, solche Oszillations-Probleme zu beseitigen. Oder aber
man wechselt zu einer anderen Binarisierung, indem man statt der Werte (0,1) nunmehr
die Werte (− 1, + 1) einsetzt. Dadurch werden die Merkmale signifikant deutlicher in den
Verbindungsgewichten gespeichert.
Eine weitere Variante eines autoassoziativen Netzes stellt das sogenannte
Boltzmann-
Netz
dar, das sich hinsichtlich der Architektur nicht von dem Hopfield-Netz unterscheidet.
Auch hier ist eine einzige Schicht von Neuronen vorgesehen, die untereinander vollständig
miteinander verbunden sind; eine direkte Rückkopplung ist hier ebenfalls nicht vorhan-
den. Ein Hopfield-Netz nimmt mit jedem Verarbeitungsschritt einen Zustand an, dessen
Energie-Niveau keinesfalls höher als das vorherige ist. Das kann zu lokalen Energie-Mini-
ma bzw. Talsohlen führen, die nicht wieder verlassen werden können. Bei der Boltzmann-
Variante wird nun angestrebt, dass ein Netz hin und wieder auch einen ernergiereicheren
Zustand einnehmen kann. Dadurch wird es möglich, ein lokales Energie-Minimum wieder
verlassen zu können. Auch hier dient als Vorbild wiederum das Teilchenverhalten in Me-
tallen, indem man auf die Art und Weise der Metallbearbeitung schaut, und zwar konkret
darauf, wie man stabilere Materialien erhält. Hierzu werden in speziellen Verfahren Stoffe
erhitzt, um sie dann in Stufen wieder abkühlen zu lassen. Dieses Erhitzen und anschlie-
ßende Abkühlen wird auf das künstliche Netz übertragen. Man spricht von einem simu-
lierten Abkühlen, dem sogenannten
Simulated Annealing
. Dabei wird beim simulierten
Aufwärmungsprozess in einem Verarbeitungsschritt nicht immer die Aktivierung eines
Neurons verändert. Vielmehr erfolgt die Änderung der Aktivierung eher zufällig und wird
dabei von einem sogenannten Temperatur-Parameter T mitbeeinflusst.
