A tin
heit Hamilton-Funktion und ist ein Maf für die im
System gespeicherte Energie:
(0: S81)... (4)
N N
E 273. (Wij Si 55} +
= i=]
1
Es -
2 1 j=1 i
"U- p4
i
Nach jeder Verànderung eines Spins klappen einzelne
Spins solange um, bis ein Energieminimum erreicht
ist. Kein Spin kann seine Ausrichtung ändern, ohne
die Gesamtenergie zu erhöhen.
5.2 Struktur des Hopfield Netzwerkes
1 Y
Zelle 1 1
>
> Zelle 2 2
X3
Zelle 3 3
X :
n
Zelle n Y.
Eingabe- Ausgabe-
velctor vektor
Bild 2: Hopfield Netzwerk
Das Hopfield Netzwerk ist den selben Regeln
unterworfen, wie das Spinglas-Modell. Dadurch
lassen sich alle Erkenntnisse über das zeitliche
Verhalten des Spinglases auf das Hopfield Netzwerk
übertragen.
Die Gewichte des Hopfield Modells sind symmetrisch
(wij=wji). Dieser symmetrischen Eigenschaft
entspricht in der Physik die Symmetrie der
Kraftwirkung (Newtons Actio-Reactio). Es gibt keine
Rickkopplunng einer Zelle mit sich selbst (wii=0).
Physikalisch gesehen bedeutet das, daß eine
Ausrichtung eines Spins nicht von seiner
Vorgeschichte, sondern nur vom gegenwärtigen
Zustand des Systems abhängt. Allerdings ist
indirekt eine Riickkopplung vorhanden. Die Stellung
des Spins verändert den Zustand des Netzes, Das
Netz beeinflußt daraufhin wieder die Stellung des
Spins, wij>0 gilt bei exzitatorischer (angeregter),
wij<0 bei inhibitorischer (geschwächter) Ver-
knüpfung.
Der Zustand yi einer bináren Zelle i ist äquivalent
zum Ising-Spin Si im Spinglas-Modell. Wenn die
Zelle aktiv ist, gilt yi-1 (Spin hat den Wert
Si=+1), wenn die Zelle in Ruhe ist, gilt yi=0 (Spin
hat den Wert Si=-1).
Eine Eingabe erfolgt durch Setzen der Zustände der
Zellen, Der Eingabevektor ist demnach die
Gesamtaktivität des Netzes zum Zeitpunkt tz0. Die
Ausgabe liegt dann vor, wenn das Netz einen
stabilen Zustand erreicht hat. Der Ausgabevektor
ist die Aktivität des Netzes im stabilen Zustand.
Unabhängig, ob es sich um ein Eingabemuster oder
ein Ausgabemuster handelt, wird jedes Bit i eines
Musters durch den Zustand yi der Zelle i im Netz
repräsentiert,
Die Aktivierungsfunktion einer Zelle i zum
Zeitpunkt t*1 kann wie folgt beschrieben werden.
yi(t+1) ist dabei die Ausgabe der Zelle zum
Zeitpunkt t*1:
192
yi(tti) = | wenn neti(t) > 9i
yılt+1) = 0 wenn neti(t) « 8i
yi(t*1) - yi(t) wenn neti(t) = 8; (5)
Die Übertragungsfunktion im Hopfield Modell lautet:
neti = I wij v3 + xi (6)
i#j
ZusammengefaBt kann eine Zelle in dem Hopfield
Modell also wie folgt dargestellt werden:
= ya(t+1)=1 für neti(t)»0i| yi
ya(t+1)=0 für netai(t)<01 >
yaí(tt*l)zya(t)für neti(t)-04
Z wis Ya + xai
1#3
Bild 3: Zelle im Hopfield Netzwerk
Im Ising-Spin-Modell ist der Schwellwert Bi ein
lokales Feld. Dieses Feld versucht unabhängig von
der Stellung der anderen Spins, den Spin Si in eine
bestimmte Richtung auszurichten. Wenn der
Schwellwert 0i von Null verschieden ist, erreicht
man, daß ein Zustand der Zelle häufiger angenommen
wird als ein anderer Zustand. Beispielsweise ist
bei einem Schwellwert 0i größer als Null die
Ausgabe yi gleich Null bei zufällig verteilter
Eingabe häufiger. Bei einem Schwellwert 0i kleiner
als Null ist die Ausgabe yi gleich Eins häufiger,
Hopfield wählt in diesem Zusammenhang der
Einfachheit halber den Schwellwert 0i gleich Null.
Die Kopplungskoeffizienten im Spinglas-Modell haben
die gleiche Dynamik wie die Gewichte im Hopfield
Netzwerk.
Genau wie im Spinglas-Modell existiert auch für das
Hopfield Netz eine Energie-Funktion, die wie folgt
definiert ist:
1 N
EE: —..=. X (Wi yi ya) +5 (Di yı) (7)
2 iz1" jf i=1
Jedes gelernte Muster (Ausgaben, stabile Zustände)
soll nun einem Energieminimum entsprechen. Im
Gegensatz zum Spinglas-Problem (Gewichte bekannt,
Energieminima gesucht) werden beim Hopfield Netz
die Energieminima vorgegeben und die Gewichte
gesucht. Wenn die zu erkennenden Muster bekannt
sind, bei denen die Energiefunktion ein Minimum
haben soll, können die Gewichte berechnet werden.
Dazu muß die erste Ableitung von Gleichung 7 gleich
Null gesetzt und nach wij aufgelöst werden.
5.3 Lernphase des Hopfield Netzes
Die Formel, nach der die Gewichte berechnet werden,
heißt Hopfield Regel. Im Hopfield Netzwerk
entsprechen die Ausgaben (die stabilen Zustände)
den zu lernenden Mustern. Jedem Muster entspricht
eine ganz bestimmte Aktivität des Netzes. Diese
wird mit QS bezeichnet. Die Anzahl der Muster
beträgt M. Wenn die Energiefunktion E an den
Stellen der zugeordneten Muster QS ein Minimum
haben soll, müssen die Gewichte wie folgt aussehen:
A]