Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version...

40
1 Einführung in JavaNNS Version 1.1 SS2007 Inhalt Ende Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider

Transcript of Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version...

Page 1: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

1Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Kennlinie Lichtregelung in JavaNNSVersion 1.1

Ulrich Lehmann, Johannes Brenig, Michael Schneider

Page 2: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

2Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Inhalt

• Messaufbau

• Messwerte

• Netz erzeugen

• Pattern erzeugen und laden

• Control Panel

• Error Graph

• Weights

• Training des Netzes

• Darstellung in Excel

• Quellen

Page 3: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

3Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Messaufbau

Usmax = 12V

Ue Ua

Solarzelle

GlühbirneUe = Eingangsspannung

Ua = Ausgangsspannung

Page 4: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

4Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Messwerte der Kennlinie

Ua/V Ue/V0,1 0,1740,5 0,1740,9 0,2041 0,241

1,2 0,4441,3 0,6161,4 0,8411,5 1,0731,6 1,2961,7 1,551,8 1,772,2 2,5632,6 32,8 3,1633 3,27

3,2 3,3443,4 3,3983,6 3,4353,8 3,4714,2 3,52

Aus Ausarbeitung_KNN_Lichtregelstrecke

Page 5: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

5Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Messwerte - normiert

Kennlinie der Lichregelungnormiert

0

0,1

0,2

0,3

0,4

0,5

0,6

0,7

0,8

0,9

1

0 0,1 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0,9 1

Ua/V

Ue/

V

Ue/V

Diese Messwerte müssen für die Verwendung in JNNS normiert werden.-> sigmoide Aktivierungsfunktion-> Normierung auf ein Intervall von [0,05 0,95]

Ua/V Ue/V0,05 0,050,14 0,050,23 0,060,25 0,070,29 0,120,31 0,170,34 0,230,36 0,290,38 0,350,40 0,420,42 0,480,51 0,690,60 0,810,64 0,850,69 0,880,73 0,900,77 0,920,82 0,930,86 0,940,95 0,95

Page 6: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

6Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Messwerte - normiert

:

min[ ]( ) max[ ] min[ ] min[ ]

max[ ] min[ ]

:

min[ ] 0,1

max[ ] 4,2

max[ ] 0,95

min[ ] 0,05

0,1( ) 0,95 0,05 0,05

4,2 0,1

aa a a

a a

a

a

a

a

Formel zur Normierung

x Uu x normU normU normU

U U

Beispiel

U

U

normU

normU

xu x

Page 7: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

7Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Aufteilung in Trainings- Validierung- und Testdaten

14 Trainingsdatensätze

4 Validierungsdatensätze

2 Testdatensätze

Ua/V Ue/V0,05 0,050,14 0,050,23 0,060,25 0,070,29 0,120,31 0,170,34 0,230,36 0,290,38 0,350,40 0,420,42 0,480,51 0,690,60 0,810,64 0,850,69 0,880,73 0,900,77 0,920,82 0,930,86 0,940,95 0,95

TrainingsdatenTestdatenValidierungsdaten

Kennlinie der Lichregelungnormiert

0,0

0,1

0,2

0,3

0,4

0,5

0,6

0,7

0,8

0,9

1,0

0,0 0,1 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0,9 1,0

Ua/V

Ue

/V

Page 8: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

8Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Page 9: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

9Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Ausdehnung des Layer in x-Achse

Ausdehnung des Layer in y-Achse

Aktivierungsfunktion auswählen

Ausgabefunktion auswählen

Layertyp auswählen

Layer mit der gewählten Konfiguration erstellen (hier: Input-Layer)

Page 10: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

10Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

erzeugterInput-Layer

fortlaufende Nummerierung der Layer (automatisch)

Koordinaten der Unitsim Raum (automatisch fortlaufend)

Layer 2:Width 1Height 4Unit detail: - Hidden - Act_Logistic - Out_Identity

Page 11: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

11Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Layer 3:Width 1 Height 2Unit detail: - hidden - Act_Logistic - Out_Identity

Layer 4:Width 1Height 1Unit detail: - Output - Act_Identity - Out_Identity

Page 12: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

12Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Page 13: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

13Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Page 14: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

14Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Netz erzeugen

Speichern des Netzes unter File> Save asNetwork name: z. B. Kennlinie.net

Page 15: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

15Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern erzeugen

Pattern-Datei kann mit Text-Editor bearbeitet werden

Aufbau der Kopfzeile ist zwingend einzuhalten

Bereitstellung der Datensätze gemäßdiesem Muster(hier: Trainingspattern)

Anzahl der Ausgabeneuronen

Anzahl der Eingabeneuronen

Page 16: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

16Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern erzeugen

Patterndatei mit vier Validierungsdatensätzen

Page 17: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

17Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern erzeugen

Patterndatei mit zwei Testdaten (nur Eingabewerteund keine Ausgabewerte!)

Page 18: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

18Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern-Dateien laden

Page 19: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

19Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Pattern-Dateien laden

Alle drei erzeugten Patterndateien auswählen und öffnen

Page 20: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

20Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Control Panel

Page 21: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

21Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Control Panel

Trainingspattern und Validierungspattern auswählen

Page 22: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

22Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Control Panel

zufällige Belegung der Gewichtezu Beginn des Trainings,um keine Symmetrie in den Gewichten zu erlangen

Festlegung des Intervalls,aus dem die zufälligen Werte für die Anfangsbelegung der Gewichte ausgewählt werden sollen

Page 23: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

23Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Control Panel

Auswahl des Trainingsverfahrens

Lernrate 0,1 bis 0,9

Maximaler zulässiger Fehler

Anzahl der Lernschritte

Anzahl der Schritte nach denen validiert werden soll

Zufällige Wahl der Trainingsdatensätze

Vor dem Lernen müssen die Gewichte initialisiert werden, d. h. mit zufälligen Startwerten belegt werden

Mit „Learn All“ werden alle Trainingsdatensätze zum Training herangezogen. Es sind noch weitere Einstellungen vor dem Training notwendig!

Page 24: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

24Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Error Graph

Graphische Darstellung von Trainings- und Validierungsfehler

Page 25: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

25Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Weights

Graphische Darstellungder Verbindungsgewichte Entsprechend der Aktivierung

Page 26: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

26Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Weights

Zielneuron

Quellneuron

Die Gewichte sind noch nicht aktiviert.

Aktivierung desVebindungsgewichtesz. B. von Neuron 5 zu Neuron 6

Page 27: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

27Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Initialisieren der Gewichte

Page 28: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

28Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Page 29: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

29Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Page 30: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

30Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Kennlinie

0,0000

0,1000

0,2000

0,3000

0,4000

0,5000

0,6000

0,7000

0,8000

0,9000

1,0000

0,1000 0,2000 0,3000 0,4000 0,5000 0,6000 0,7000 0,8000 0,9000

Trainingsdaten Output nach 100 Cyclen Output nach 200 Cyclen

Output nach 500 Cyclen Output nach 1000 Cyclen Output nach 2000 Cyclen

Excel

Excel starten und Datei „kennlinie.xls“ laden

Page 31: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

31Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Excel

Aktualisieren der Daten in Excel

Page 32: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

32Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Excel

Die vom Netz erzeugten Output-Werte nach 100 Cyclen

Die Output-Werte aus dem Trainingsdatensatz.

Die Input-Werte aus dem Trainingsdatensatz

Page 33: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

33Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Excel

Page 34: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

34Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Page 35: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

35Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Page 36: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

36Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Page 37: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

37Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Training

Page 38: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

38Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Aufgabe

• Reduzieren Sie die Anzahl der Neuronen des bestehenden Beispiels soweit wie möglich und visualisieren Sie die Ergebnisse in Excel. Verwenden Sie unterschiedliche

– Parametereinstellungen (z.B. Lernrate, …)

– Trainingsverfahren

– „extreme“ Architekturen

Page 39: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

39Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Quellen

• Software „JNNS incl. Handbuch“:http://www-ra.informatik.uni-tuebingen.de/software/

• Software „Java“:http://www.java.com/de

• „Simulation neuronaler Netze“ von Andreas Zell

• Vorlesungsskript Prof. Lehmann

Page 40: Inhalt Ende 1 Einführung in JavaNNS Version 1.1SS2007 Kennlinie Lichtregelung in JavaNNS Version 1.1 Ulrich Lehmann, Johannes Brenig, Michael Schneider.

40Einführung in JavaNNS Version 1.1SS2007

Inhalt

Ende

Vielen Dank für Ihre

Aufmerksamkeit !