Full text: XVIIth ISPRS Congress (Part B3)

  
  
A tin 
heit Hamilton-Funktion und ist ein Maf für die im 
System gespeicherte Energie: 
(0: S81)... (4) 
N N 
E 273. (Wij Si 55} + 
= i=] 
1 
Es - 
2 1 j=1 i 
"U- p4 
i 
Nach jeder Verànderung eines Spins klappen einzelne 
Spins solange um, bis ein Energieminimum erreicht 
ist. Kein Spin kann seine Ausrichtung ändern, ohne 
die Gesamtenergie zu erhöhen. 
5.2 Struktur des Hopfield Netzwerkes 
  
    
    
    
    
    
1 Y 
Zelle 1 1 
> 
> Zelle 2 2 
X3 
Zelle 3 3 
X : 
n 
Zelle n Y. 
Eingabe- Ausgabe- 
velctor vektor 
Bild 2: Hopfield Netzwerk 
Das Hopfield Netzwerk ist den selben Regeln 
unterworfen, wie das  Spinglas-Modell. Dadurch 
lassen sich alle Erkenntnisse über das zeitliche 
Verhalten des Spinglases auf das Hopfield Netzwerk 
übertragen. 
Die Gewichte des Hopfield Modells sind symmetrisch 
(wij=wji). Dieser symmetrischen Eigenschaft 
entspricht in der Physik die Symmetrie der 
Kraftwirkung (Newtons Actio-Reactio). Es gibt keine 
Rickkopplunng einer Zelle mit sich selbst (wii=0). 
Physikalisch gesehen bedeutet das, daß eine 
Ausrichtung eines Spins nicht von seiner 
Vorgeschichte, sondern nur vom gegenwärtigen 
Zustand des Systems abhängt. Allerdings ist 
indirekt eine Riickkopplung vorhanden. Die Stellung 
des Spins verändert den Zustand des Netzes, Das 
Netz beeinflußt daraufhin wieder die Stellung des 
Spins, wij>0 gilt bei exzitatorischer (angeregter), 
wij<0 bei  inhibitorischer (geschwächter)  Ver- 
knüpfung. 
Der Zustand yi einer bináren Zelle i ist äquivalent 
zum Ising-Spin Si im Spinglas-Modell. Wenn die 
Zelle aktiv ist, gilt yi-1 (Spin hat den Wert 
Si=+1), wenn die Zelle in Ruhe ist, gilt yi=0 (Spin 
hat den Wert Si=-1). 
Eine Eingabe erfolgt durch Setzen der Zustände der 
Zellen, Der Eingabevektor ist demnach die 
Gesamtaktivität des Netzes zum Zeitpunkt tz0. Die 
Ausgabe liegt dann vor, wenn das Netz einen 
stabilen Zustand erreicht hat. Der Ausgabevektor 
ist die Aktivität des Netzes im stabilen Zustand. 
Unabhängig, ob es sich um ein Eingabemuster oder 
ein Ausgabemuster handelt, wird jedes Bit i eines 
Musters durch den Zustand yi der Zelle i im Netz 
repräsentiert, 
Die Aktivierungsfunktion einer Zelle i zum 
Zeitpunkt t*1 kann wie folgt beschrieben werden. 
yi(t+1) ist dabei die Ausgabe der Zelle zum 
Zeitpunkt t*1: 
192 
yi(tti) = | wenn neti(t) > 9i 
yılt+1) = 0 wenn neti(t) « 8i 
yi(t*1) - yi(t) wenn neti(t) = 8; (5) 
Die Übertragungsfunktion im Hopfield Modell lautet: 
neti = I wij v3 + xi (6) 
i#j 
ZusammengefaBt kann eine Zelle in dem Hopfield 
Modell also wie folgt dargestellt werden: 
  
  
  
  
= ya(t+1)=1 für neti(t)»0i| yi 
ya(t+1)=0 für netai(t)<01 > 
yaí(tt*l)zya(t)für neti(t)-04 
    
Z wis Ya + xai 
1#3 
  
  
  
Bild 3: Zelle im Hopfield Netzwerk 
Im Ising-Spin-Modell ist der Schwellwert Bi ein 
lokales Feld. Dieses Feld versucht unabhängig von 
der Stellung der anderen Spins, den Spin Si in eine 
bestimmte Richtung auszurichten. Wenn der 
Schwellwert 0i von Null verschieden ist, erreicht 
man, daß ein Zustand der Zelle häufiger angenommen 
wird als ein anderer Zustand. Beispielsweise ist 
bei einem Schwellwert 0i größer als Null die 
Ausgabe yi gleich Null bei zufällig verteilter 
Eingabe häufiger. Bei einem Schwellwert 0i kleiner 
als Null ist die Ausgabe yi gleich Eins häufiger, 
Hopfield wählt in diesem Zusammenhang der 
Einfachheit halber den Schwellwert 0i gleich Null. 
Die Kopplungskoeffizienten im Spinglas-Modell haben 
die gleiche Dynamik wie die Gewichte im Hopfield 
Netzwerk. 
Genau wie im Spinglas-Modell existiert auch für das 
Hopfield Netz eine Energie-Funktion, die wie folgt 
definiert ist: 
1 N 
EE: —..=. X (Wi yi ya) +5 (Di yı) (7) 
2 iz1" jf i=1 
Jedes gelernte Muster (Ausgaben, stabile Zustände) 
soll nun einem Energieminimum entsprechen. Im 
Gegensatz zum Spinglas-Problem (Gewichte bekannt, 
Energieminima gesucht) werden beim Hopfield Netz 
die Energieminima vorgegeben und die Gewichte 
gesucht. Wenn die zu erkennenden Muster bekannt 
sind, bei denen die Energiefunktion ein Minimum 
haben soll, können die Gewichte berechnet werden. 
Dazu muß die erste Ableitung von Gleichung 7 gleich 
Null gesetzt und nach wij aufgelöst werden. 
5.3 Lernphase des Hopfield Netzes 
Die Formel, nach der die Gewichte berechnet werden, 
heißt Hopfield Regel. Im Hopfield Netzwerk 
entsprechen die Ausgaben (die stabilen Zustände) 
den zu lernenden Mustern. Jedem Muster entspricht 
eine ganz bestimmte Aktivität des Netzes. Diese 
wird mit QS bezeichnet. Die Anzahl der Muster 
beträgt M. Wenn die Energiefunktion E an den 
Stellen der zugeordneten Muster QS ein Minimum 
haben soll, müssen die Gewichte wie folgt aussehen: 
A]
	        
Waiting...

Note to user

Dear user,

In response to current developments in the web technology used by the Goobi viewer, the software no longer supports your browser.

Please use one of the following browsers to display this page correctly.

Thank you.