Information Technology Reference
In-Depth Information
Abb. 3.21
ART 1-Architektur
Abb. 3.20
Stephen Grossberg
In Anlehnung an den Begriff der Anpassbarkeit der
Synapsen biologischer Neuronen bezeichnet man mit
Plastizität die Modiizierbarkeit eines Neuronalen Netzes.
Unter Stabilität versteht man die Fähigkeit der Beibehal-
tung des einmal Gelernten. Die Lernverfahren Neuronaler
Netze funktionierten bisher prinzipiell durch wiederholtes
Lernen der Trainingsmuster. Durch ein selektives Trainieren
eines neuen Musters kann daher das bisher erlernte Muster
zerstört werden. Die bereits korrekt adaptierten Gewichte
eines Neuronalen Netzes gehen dabei verloren. Ein
biologisch motiviertes Lernverfahren kann jedoch nicht
nach diesem Prinzip funktionieren: In vielen Fällen taucht
ein Trainingsmuster nicht zweimal in der gleichen Form
auf. Wegen der ständigen Veränderungen unserer Umwelt
muss ein biologisches Lernverfahren in der Lage sein,
ein einmal präsentiertes Eingabemuster zu behalten (fast
learning).
Die prinzipielle Arbeitsweise aller ART-Modelle beruht
auf folgender Vorgehensweise:
1. Ein Eingabevektor wird angelegt und das Netz versucht,
die Ähnlichkeit mit den bereits vorhandenen Mustern zu
vergleichen und in eine bereits vorhandene Kategorie zu
klassiizieren.
2. Kann das angelegte Muster nicht klassiiziert werden, wird
eine neue Kategorie durch Speichern eines dem Eingabe-
muster ähnlichen Musters erzeugt.
3. Falls ein Muster gefunden wird, welches zur Eingabe
ähnlich ist, wird versucht, durch Modiikation das Muster
noch ähnlicher zu machen.
Grossberg war einer der ersten, der sigmoide Aktivie-
rungsfunktionen und eine nichtlineare laterale Hemmung ver-
wendete. Am besten bekannt sind seine Modelle der
Adaptive
Resonance Theory (ART)
, die mit
Gail Carpenter
und weite-
ren Mitarbeitern an der Boston University entwickelt wurden.
Zu diesen gehörten ART-1, ART-2, ART 2A, ART-3, ART-
MAP und Fuzzy-ART, um nur einige zu nennen. Alle ART-
Varianten basieren auf der gleichen Grundidee. Das erste
Modell, ART-1 (
Abb. 3.21
), wurde bereits 1976 vorgestellt.
Die Nachfolgemodelle entstanden ab Mitte der 80er-Jahre.
Ziel der Entwicklung der ART-Modelle war es, das soge-
nannte Stabilitäts-Plastizitäts-Dilemma zu lösen, d. h. eine
Lösung für die Frage zu liefern:
Wie können neue Assoziationen in einem Neuronalen Netz gelernt
werden, ohne dass alte Assoziationen dabei vergessen werden?
