1Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Kennlinie Lichtregelung in JavaNNSVersion 1.1

Ulrich Lehmann, Johannes Brenig, Michael Schneider

2Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Inhalt

• Messaufbau

• Messwerte

• Netz erzeugen

• Pattern erzeugen und laden

• Control Panel

• Error Graph

• Weights

• Training des Netzes

• Darstellung in Excel

• Quellen

3Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Messaufbau

Usmax = 12V

Ue Ua

Solarzelle

GlühbirneUe = Eingangsspannung

Ua = Ausgangsspannung

4Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Messwerte der Kennlinie

Ua/V Ue/V0,1 0,1740,5 0,1740,9 0,2041 0,241

1,2 0,4441,3 0,6161,4 0,8411,5 1,0731,6 1,2961,7 1,551,8 1,772,2 2,5632,6 32,8 3,1633 3,27

3,2 3,3443,4 3,3983,6 3,4353,8 3,4714,2 3,52

Aus Ausarbeitung_KNN_Lichtregelstrecke

5Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Messwerte - normiert

Kennlinie der Lichregelungnormiert

0

0,1

0,2

0,3

0,4

0,5

0,6

0,7

0,8

0,9

1

0 0,1 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0,9 1

Ua/V

Ue/

V

Ue/V

Diese Messwerte müssen für die Verwendung in JNNS normiert werden.-> sigmoide Aktivierungsfunktion-> Normierung auf ein Intervall von [0,05 0,95]

Ua/V Ue/V0,05 0,050,14 0,050,23 0,060,25 0,070,29 0,120,31 0,170,34 0,230,36 0,290,38 0,350,40 0,420,42 0,480,51 0,690,60 0,810,64 0,850,69 0,880,73 0,900,77 0,920,82 0,930,86 0,940,95 0,95

6Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Messwerte - normiert

:

min[ ]( ) max[ ] min[ ] min[ ]

max[ ] min[ ]

:

min[ ] 0,1

max[ ] 4,2

max[ ] 0,95

min[ ] 0,05

0,1( ) 0,95 0,05 0,05

4,2 0,1

aa a a

a a

a

a

a

a

Formel zur Normierung

x Uu x normU normU normU

U U

Beispiel

U

U

normU

normU

xu x

7Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Aufteilung in Trainings- Validierung- und Testdaten

14 Trainingsdatensätze

4 Validierungsdatensätze

2 Testdatensätze

Ua/V Ue/V0,05 0,050,14 0,050,23 0,060,25 0,070,29 0,120,31 0,170,34 0,230,36 0,290,38 0,350,40 0,420,42 0,480,51 0,690,60 0,810,64 0,850,69 0,880,73 0,900,77 0,920,82 0,930,86 0,940,95 0,95

TrainingsdatenTestdatenValidierungsdaten

Kennlinie der Lichregelungnormiert

0,0

0,1

0,2

0,3

0,4

0,5

0,6

0,7

0,8

0,9

1,0

0,0 0,1 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0,9 1,0

Ua/V

Ue

/V

8Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

9Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Ausdehnung des Layer in x-Achse

Ausdehnung des Layer in y-Achse

Aktivierungsfunktion auswählen

Ausgabefunktion auswählen

Layertyp auswählen

Layer mit der gewählten Konfiguration erstellen (hier: Input-Layer)

10Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

erzeugterInput-Layer

fortlaufende Nummerierung der Layer (automatisch)

Koordinaten der Unitsim Raum (automatisch fortlaufend)

Layer 2:Width 1Height 4Unit detail: - Hidden - Act_Logistic - Out_Identity

11Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Layer 3:Width 1 Height 2Unit detail: - hidden - Act_Logistic - Out_Identity

Layer 4:Width 1Height 1Unit detail: - Output - Act_Identity - Out_Identity

12Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

13Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

14Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Speichern des Netzes unter File> Save asNetwork name: z. B. Kennlinie.net

15Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern erzeugen

Pattern-Datei kann mit Text-Editor bearbeitet werden

Aufbau der Kopfzeile ist zwingend einzuhalten

Bereitstellung der Datensätze gemäßdiesem Muster(hier: Trainingspattern)

Anzahl der Ausgabeneuronen

Anzahl der Eingabeneuronen

16Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern erzeugen

Patterndatei mit vier Validierungsdatensätzen

17Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern erzeugen

Patterndatei mit zwei Testdaten (nur Eingabewerteund keine Ausgabewerte!)

18Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern-Dateien laden

19Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern-Dateien laden

Alle drei erzeugten Patterndateien auswählen und öffnen

20Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Control Panel

21Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Control Panel

Trainingspattern und Validierungspattern auswählen

22Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Control Panel

zufällige Belegung der Gewichtezu Beginn des Trainings,um keine Symmetrie in den Gewichten zu erlangen

Festlegung des Intervalls,aus dem die zufälligen Werte für die Anfangsbelegung der Gewichte ausgewählt werden sollen

23Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Control Panel

Auswahl des Trainingsverfahrens

Lernrate 0,1 bis 0,9

Maximaler zulässiger Fehler

Anzahl der Lernschritte

Anzahl der Schritte nach denen validiert werden soll

Zufällige Wahl der Trainingsdatensätze

Vor dem Lernen müssen die Gewichte initialisiert werden, d. h. mit zufälligen Startwerten belegt werden

Mit „Learn All“ werden alle Trainingsdatensätze zum Training herangezogen. Es sind noch weitere Einstellungen vor dem Training notwendig!

24Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Error Graph

Graphische Darstellung von Trainings- und Validierungsfehler

25Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Weights

Graphische Darstellungder Verbindungsgewichte Entsprechend der Aktivierung

26Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Weights

Zielneuron

Quellneuron

Die Gewichte sind noch nicht aktiviert.

Aktivierung desVebindungsgewichtesz. B. von Neuron 5 zu Neuron 6

27Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Initialisieren der Gewichte

28Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

29Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

30Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Kennlinie

0,0000

0,1000

0,2000

0,3000

0,4000

0,5000

0,6000

0,7000

0,8000

0,9000

1,0000

0,1000 0,2000 0,3000 0,4000 0,5000 0,6000 0,7000 0,8000 0,9000

Trainingsdaten Output nach 100 Cyclen Output nach 200 Cyclen

Output nach 500 Cyclen Output nach 1000 Cyclen Output nach 2000 Cyclen

Excel

Excel starten und Datei „kennlinie.xls“ laden

31Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Excel

Aktualisieren der Daten in Excel

32Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Excel

Die vom Netz erzeugten Output-Werte nach 100 Cyclen

Die Output-Werte aus dem Trainingsdatensatz.

Die Input-Werte aus dem Trainingsdatensatz

33Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Excel

34Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

35Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

36Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

37Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

38Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Aufgabe

• Reduzieren Sie die Anzahl der Neuronen des bestehenden Beispiels soweit wie möglich und visualisieren Sie die Ergebnisse in Excel. Verwenden Sie unterschiedliche

– Parametereinstellungen (z.B. Lernrate, …)

– Trainingsverfahren

– „extreme“ Architekturen

39Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Quellen

• Software „JNNS incl. Handbuch“:http://www-ra.informatik.uni-tuebingen.de/software/

• Software „Java“:http://www.java.com/de

• „Simulation neuronaler Netze“ von Andreas Zell

• Vorlesungsskript Prof. Lehmann

40Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Vielen Dank für Ihre

Aufmerksamkeit !