Radiale-Basisfunktionen-Netze - Computational Intelligence - page 87

1
2

0

0

w 1
w 2

x 1 x 2 y

1

x 1

2

0 0 1

0

y

1 0 0

0

0

0 1 0

w 3
w 4

x 2

1
2

1 1 1

1

1

1

1
2

Abbildung 6.11: Trainingsbeispiele für die Biimplikation und durch sie bereits teil-
weise festgelegtes einfaches Radiale-Basisfunktionen-Netz.

D. h., jede Zeile der Matrix enthält die Ausgaben der verschiedenen versteckten Neu-
ronen für ein Trainingsbeispiel, jede Spalte der Matrix die Ausgaben eines versteck-
ten Neurons für die verschiedenen Trainingsbeispiele. Da die Elemente dieser Matrix
aus den Trainingsbeispielen berechnet werden können und die gewünschten Ausga-
ben ebenfalls bekannt sind, können die Gewichte durch Lösen dieses Gleichungssy-
stems bestimmt werden.
Für die folgenden Betrachtungen ist es günstig, diese Lösung durch Invertieren
der Matrix A zu bestimmen, d. h. durch
w u = A 1 · o u ,

auch wenn dieses Verfahren voraussetzt, dass die Matrix A vollen Rang hat. Dies ist
in der Praxis zwar meist, aber eben nicht notwendigerweise der Fall. Sollte A nicht
vollen Rang haben, so sind Gewichte willkürlich zu wählen, bis das verbleibende
Gleichungssystem eindeutig lösbar ist.
Man beachte, dass mit der betrachteten Initialisierung der Fehler, den ein einfa-
ches Radiale-Basisfunktionen-Netz auf den Trainingsdatenmacht, bereits verschwin-
det. Denn da das zu lösende Gleichungssystem höchstens unterbestimmt ist, können
stets Verbindungsgewichte gefunden werden, so dass genau die gewünschten Aus-
gaben berechnet werden. Ein Training der Parameter ist daher bei einfachen Radiale-
Basisfunktionen-Netzen nicht nötig.
Zu Veranschaulichung des Verfahrens betrachten wir ein Radiale-Basisfunktio-
nen-Netz für die Biimplikation x 1 x 2 , bei dem die Neuronen der versteckten
Schicht Gaußsche Aktivierungsfunktionen haben. Die Trainingsbeispiele und das
durch sie bereits teilweise festgelegte einfache Radiale-Basisfunktionen-Netz sind in
Abbildung 6.11 dargestellt. Die Radien sind nach der oben angegebenen Heuristik
gewählt: Es ist offenbar d max = 2(DiagonaledesEinheitsquadrates)und m = 4,

2

2·4 = 2 .
Zu bestimmen sind nur noch die vier Gewichte w 1 ,..., w 4 .(Manbeachte,dass
der Biaswert des Ausgabeneurons auf 0 festgelegt wird, da sonst das zu lösende

also =