Information Technology Reference
In-Depth Information
1
tangens hyperbolicus:
net
f
act
(
net,
)=
tanh
(
net
)
=
0
2
1
+
e
2(net
)
8
4
+ 4
+ 8
1
1
Abbildung 5.3: Der
tangens hyperbolicus
,einebipolaresigmoideFunktion.
2
x
1
1
2
2
y
3
2
2
x
2
1
2
U
in
U
hidden
U
out
Abbildung 5.4: Ein dreischichtiges Perzeptron für die Biimplikation.
Der Vorteil einer solchen Matrix ist, dass wir die Berechnung der Netzeingabe der
Neuronen der Schicht
U
2
schreiben können als
net
U
2
=
W
· in
U
2
=
W
·
out
U
1
(das hoch-
gestellte bedeutet die Transponierung des Vektors, d. h. seine Umwandlung aus
einem Zeilen- in einen Spaltenvektor).
Die Anordnung der Gewichte in der Matrix ist durch die Konvention, Matrix-
Ve k t o r -Gl e i c hungen mi t Spa l t enve k t o r en zu s c h r e i b en , und d i e Re ge l n de r Ma t r i x -
Ve k t o r -Mu l t i p l i ka t i on f e s t ge l e g t . S i e e r k l ä r t , wa rum wi r i n Defin i t i on 4 . 3 au f S e i t e 3 4
die Reihenfolge der Gewichtindizes so festgelegt haben, dass das Neuron, zu dem
die Verbindung führt, zuerst steht.
Als erstes Beispiel für ein mehrschichtiges Perzeptron betrachten wir noch ein-
mal das Netz aus Schwellenwertelementen aus Abschnitt 3.4, das die Biimplikation
berechnet. In Abbildung 5.4 ist es als dreischichtiges Perzeptron dargestellt. Man
beachte, dass gegenüber Abbildung 3.10 auf Seite 19 zwei zusätzliche Neuronen,
nämlich die beiden Eingabeneuronen, auftreten. Formal sind diese Neuronen not-
wendig, da nach unserer Definition eines neuronalen Netzes nur den Kanten des
Graphen Gewichte zugeordnet werden können, nicht aber direkt den Eingaben. Wir
brauchen daher die Eingabeneuronen, damit wir Kanten zu den Neuronen der ver-
steckten Schicht haben, denen wir die Gewichte der Eingaben zuordnen können. (Al-
lerdings können die Eingabeneuronen auch zur Transformation der Eingabegrößen
benutzt werden, indem man ihnen eine geeignete Ausgabefunktion zuordnet. Soll
etwa der Logarithmus einer Eingabe für die Berechnungen des neuronalen Netzes
verwendet werden, so wählt man einfach
f
out
(
act
)
log
(
act
)
für das zugehörige
Eingabeneuron.)
und in
U
2
= out
U
1
=(out
v
1
,...,out
v
m
)
net
U
2
=(net
u
1
,...,net
u
n
)
mit
