Information Technology Reference
In-Depth Information
de Fragen geklärt werden müssen. Was soll das neuronale Netz lernen? Damit einher geht
die Frage, welche spezifische Aufgabe das neuronale Netz erfüllen soll (beispielsweise
Mustervervollständigung, Mustererkennung etc.). Die Antwort auf diese Frage bestimmt
den Netztypus. Wie soll es lernen? Dies betrifft die Frage nach dem adaptiven Verfahren,
mit dem die gestellte Aufgabe bewältigt werden soll (beispielsweise Fehlerminimierung,
etc.). Die Antwort auf diese Frage betrifft die Auswahl der spezifischen Lernalgorithmen.
In welchem Rahmen soll es lernen? Diese Frage bezieht sich auf die Netz-Architektur
(Eingabe- und Ausgabeschichten, verdeckte Einheiten). Die Antwort liefert einen ersten
Eindruck auf die durch die Aufgabenspezifikation erforderliche Komplexität des spezi-
fischen Netztypus.
Eine weitere Unterscheidung kann anhand des Verarbeitungsmodus getroffen werden,
in dem die Modelle eingesetzt werden. Die meisten Modelle werden als feed-forward
oder interaktiv arbeitende Netze verwendet, wobei die Grundidee hierbei ist, dass eine
externe Eingabe durch Vorwärtspropagierung im Netz verarbeitet wird und abschließend
eine externe Ausgabe erzeugt. In anderen Modellen hingegen, insbesondere den thermo-
dynamischen Modellen, besteht die Verarbeitung einer Eingabe darin, dass das Netz sich
ausgehend von einem Initialzustand, der durch eine externe Eingabe bestimmt wird, in
einen Gleichgewichtszustand einschwingt. Aus diesem Endzustand kann dann die exter-
ne Ausgabe abgelesen werden. Solche Systeme werden auch als
Relaxations-Netze
be-
zeichnet. Außerdem kann zwischen
synchron
arbeitenden Netzen, bei denen alle Elemente
gleichzeitig ihren Zustand ändern und ggf. eine Ausgabe erzeugen respektive
asynchronen
unterschieden werden. In asynchron arbeitenden Netzen wird der Zeitpunkt der Zustands-
änderung durch eine probabilistische Funktion bestimmt oder (pseudo-) zufällig festge-
legt. Die Elemente selbst arbeiten in den meisten Modellen deterministisch, manchmal
auch probabilistisch. Weiterhin kann man unterscheiden zwischen Netzen, die
vollständig
oder
zufällig verbunden
sind, deren Elemente in
Schichten
angeordnet sind, wobei Ver-
bindungen nur in eine Richtung erlaubt sein können (
bottum-up, top-down
) oder in beide
(
interaktiv
) und zwischen
symmetrischen
Netzen.
Um eine ausreichende Funktionsfähigkeit der neuronalen Netze zu erreichen, ist die
Auswahl des Netzmodells und dessen Konfiguration von grundlegender Bedeutung. Ins-
besondere sind hier mehrere Schritte zu durchlaufen:
• Eingabe und Ausgabeparameter definieren,
• Netzarchitektur festlegen,
• einen Lernalgorithmus auswählen und die verschiedenen Parameter geeignet setzen,
• Trainingsdaten auswählen und aufbereiten
• und Netz trainieren.
Dies signalisiert, dass man neuronale Netze durchaus als strukturdeterminierte Systeme
auffassen kann, da natürlich die Komplexität und Größe der Netzarchitektur eine aus-
schlaggebende Rolle für die Problemlösung durch ein so konzipiertes System darstellt.
Auch das Lernen zeigt sich unter dieser Perspektive als Strukturveränderung in einem
