(5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche...

38
Optimierungsverfahren

Transcript of (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche...

Page 1: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Optimierungsverfahren

Page 2: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Optimierungsverfahren

•systematische Suche

•Zufallssuche (Monte-Carlo-Verfahren)

•Hill-Climbing-Verfahren

•Evolutionsverfahren

Page 3: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Optimierungsverfahren

•systematische Suche

•Zufallssuche (Monte-Carlo-Verfahren)

•Hill-Climbing-Verfahren

•Evolutionsverfahren

Page 4: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

G

x =K1 P

23 4 5

67

891

Beispiel: Gütekriterium (Regelfläche) in Abhängigkeit von einer Variablen x1=KPeingezeichnet sind die bei einer systematischen Suche ermittelten Punkte

Güte

t

x(t)

eBw’

t

x(t)

eBw’

schlechte Güte,KP zu klein:bleibende Regelabweichung

schlechte Güte,KP zu groß:Schwingungen

Page 5: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

G

x =K1 P

23 4 5

67

891

Beispiel: Gütekriterium (Regelfläche) eines P-Reglers in Abhängigkeit von einer Variablen x1=KP ; : eingezeichnet sind die bei einer systematischen Suche ermittelten Punkte

Güte

Nachteile:•die besten Lösungen werden nicht getroffen (zwischen den Stützstellen könntedas Minimum versteckt sein)•großer Aufwand (speziell bei mehr als einem Parameter KP , KI , KD)

Page 6: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Optimierungsverfahren

•systematische Suche

•Zufallssuche (Monte-Carlo-Verfahren)

•Hill-Climbing-Verfahren

•Evolutionsverfahren

Page 7: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Kleine Änderung an den Reglerparametern

Analyse durch Simulation ( z.B. Sprungantwort)

Güte-kriterien

G

erfüllt der Regelkreis (Regler + Strecke) die Gütekriterien G ?

ja nein

Entwurf erfolgreich beendet

Automatische Synthese von Reglerparametern

Page 8: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Kleine Änderung an den Reglerparametern

Analyse durch Simulation ( z.B. Sprungantwort)

Güte-kriterien

G

erfüllt der Regelkreis (Regler + Strecke) die Gütekriterien G ?

ja nein

Entwurf erfolgreich beendet

Automatische Synthese von Reglerparametern

Start-Entwurf

Page 9: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Kleine Änderung an den Reglerparametern

Analyse durch Simulation ( z.B. Sprungantwort)

Güte-kriterien

G

erfüllt der Regelkreis (Regler + Strecke) die Gütekriterien G ?

ja nein

Entwurf erfolgreich beendet

Automatische Synthese von Reglerparametern

ZufallsauswahlKP , KI , KD

Page 10: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Kleine Änderung an den Reglerparametern

Analyse durch Simulation ( z.B. Sprungantwort)

Güte-kriterien

G

erfüllt der Regelkreis (Regler + Strecke) die Gütekriterien G ?

ja nein

Entwurf erfolgreich beendet

Automatische Synthese von Reglerparametern

Page 11: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Kleine Änderung an den Reglerparametern

Analyse durch Simulation ( z.B. Sprungantwort)

Güte-kriterien

G

erfüllt der Regelkreis (Regler + Strecke) die Gütekriterien G ?

ja nein

Entwurf erfolgreich beendet

Automatische Synthese von Reglerparametern

w

Page 12: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Kleine Änderung an den Reglerparametern

Analyse durch Simulation ( z.B. Sprungantwort)

Güte-kriterien

G

erfüllt der Regelkreis (Regler + Strecke) die Gütekriterien G ?

ja nein

Entwurf erfolgreich beendet

Automatische Synthese von Reglerparametern

viele Iterationen:Es entsteht eine große Menge zufälliger Lösungen die beste wird am Ende ausgewählt

ZufallsauswahlKP , KI , KD

Nachteile:•die besten Lösungen werden nicht getroffen•großer Aufwand•der Algorithmus kann nicht aus guten Zwischenergebnissen lernen

Page 13: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Optimierungsverfahren

•systematische Suche

•Zufallssuche (Monte-Carlo-Verfahren)

•Hill-Climbing-Verfahren

•Evolutionsverfahren

Page 14: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

G

x =K1 P

23 4 5

67

891Güte

Beispiel: Gütekriterium (Regelfläche) eines P-Reglers in Abhängigkeit von einer Variablen x1=KP ; : eingezeichnet sind die bei einer systematischen Suche ermittelten Punkte

Page 15: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Beispiel: Gütegebirge (Gütekriterium Regelfläche) eines PI-Reglers in Abhängigkeit von zwei Variablen x1=KP , x2=KI GüteG

x = K1 P

x =K2 I

t

x(t)

eBw’

t

x(t)

eBw’

schlechte Güte,KP zu klein:bleibende Regelabweichung

schlechte Güte,KP zu groß:Schwingungen

Page 16: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Beispiel: Gütegebirge (Gütekriterium Regelfläche) eines PI-Reglers in Abhängigkeit von zwei Variablen x1=KP , x2=KIlinks: räumliche Darstellungrechts: Höhenliniendarstellung (Projektion)

GüteG

x = K1 P

x =K2 I

G

x = K1 P

x =K2 I

Wie findet man das Optimum (=Minimum) ?

Page 17: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Achsparallele Suche (Gauß-Seidel-Verfahren)

Page 18: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

0

10

20

20

30

40

40 60 80

Start

Optimum

X1

X2

Page 19: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Kleine Änderung an den Reglerparametern (z.B. achsparallel)

Analyse durch Simulation ( z.B. Sprungantwort G berechnen)

Güte-kriterienGwunsch

erfüllt der Regelkreis (Regler + Strecke) die Gütekriterien (G < Gwunsch ) ?

ja nein

Entwurf erfolgreich beendet

Automatische Synthese von Reglerparametern

hat sich Gütewert G verbessert ?

ja

nein

alte Reglerparameter wiederherstellen

Start-Entwurf

Page 20: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Kleine Änderung an den Reglerparametern (z.B. achsparallel)

Analyse durch Simulation ( z.B. Sprungantwort G berechnen)

Güte-kriterienGwunsch

erfüllt der Regelkreis (Regler + Strecke) die Gütekriterien (G < Gwunsch ) ?

ja nein

Entwurf erfolgreich beendet

Automatische Synthese von Reglerparametern

hat sich Gütewert G verbessert ?

ja

nein

alte Reglerparameter wiederherstellen

Zufalls-auswahlKP , KI

Page 21: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Kleine Änderung an den Reglerparametern (z.B. achsparallel)

Analyse durch Simulation ( z.B. Sprungantwort G berechnen)

Güte-kriterienGwunsch

erfüllt der Regelkreis (Regler + Strecke) die Gütekriterien (G < Gwunsch ) ?

ja nein

Entwurf erfolgreich beendet

Automatische Synthese von Reglerparametern

hat sich Gütewert G verbessert ?

ja

nein

alte Reglerparameter wiederherstellen

Page 22: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Kleine Änderung an den Reglerparametern (z.B. achsparallel)

Analyse durch Simulation ( z.B. Sprungantwort G berechnen)

Güte-kriterienGwunsch

erfüllt der Regelkreis (Regler + Strecke) die Gütekriterien (G < Gwunsch ) ?

ja nein

Entwurf erfolgreich beendet

Automatische Synthese von Reglerparametern

hat sich Gütewert G verbessert ?

ja

nein

alte Reglerparameter wiederherstellen

w

Page 23: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Kleine Änderung an den Reglerparametern (z.B. achsparallel)

Analyse durch Simulation ( z.B. Sprungantwort G berechnen)

Güte-kriterienGwunsch

erfüllt der Regelkreis (Regler + Strecke) die Gütekriterien (G < Gwunsch ) ?

ja nein

Entwurf erfolgreich beendet

Automatische Synthese von Reglerparametern

hat sich Gütewert G verbessert ?

ja

nein

alte Reglerparameter wiederherstellen

Lernen !

Page 24: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Kleine Änderung an den Reglerparametern (z.B. achsparallel)

Analyse durch Simulation ( z.B. Sprungantwort G berechnen)

Güte-kriterienGwunsch

erfüllt der Regelkreis (Regler + Strecke) die Gütekriterien (G < Gwunsch ) ?

ja nein

Entwurf erfolgreich beendet

Automatische Synthese von Reglerparametern

hat sich Gütewert G verbessert ?

ja

nein

alte Reglerparameter wiederherstellen

Lernen !

Lernen ! Keine Zufallsauswahl KP , KI

Wenn der Schritt erfolgreich war, wird die Richtung beibehalten

Page 25: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

0

10

20

20

30

40

40 60 80

Start

Optimum

X1

X2

Vorteil:Verfahren kann aus Erfolgen lernen (gute Teilergebnisse und Suchrichtungen beibehalten, schrittweise verbessern)

Page 26: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Gerichtete Suche (Gradientenverfahren)

Page 27: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

0

10

20

20

30

40

40 60 80

Start

Optimum

X1

X2

Warum achsparallel suchen ?Die optimale Richtung ist eigentlich ganz anders !

Page 28: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

G

x = K1 P

x =K2 I

dGdx2

dGdx1

1.Suchschritt x1 in x1-Richtung; Ermittlung

der partiellen Ableitung

2.Suchschritt x2 in x2-Richtung; Ermittlung

der partiellen Ableitung

3.Bildung des

Gradientenvektors = [ , ]

4.Großer Schritt S in Richtung des Gradienten-Vektors (steilster Abstieg)

= [ S , S ]

dGdx1

dGdx2

dGdx1

dGdx2

Page 29: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

60 80

Start

Optimum

X1

dGdx2

dGdx1

1.Suchschritt x1 in x1-Richtung; Ermittlung

der partiellen Ableitung

2.Suchschritt x2 in x2-Richtung; Ermittlung

der partiellen Ableitung

3.Bildung des

Gradientenvektors = [ , ]

4.Großer Schritt S in Richtung des Gradienten-Vektors (steilster Abstieg)

= [ S , S ]

dGdx1

dGdx2

dGdx1

dGdx2

Page 30: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Probleme bei unstetigen Gütegebirgen:

• kleine Schrittweite S: bleibt in lokalen Optima (Tälern) stecken• große Schrittweite S: springt über Optima (Täler) hinweg; findet sie aber nie

Lösung: Schrittweitensteuerung

1. beginnt mit großer Schrittweite; merkt sich alle Erfolge (~ Monte Carlo)2. von den erfolgreichen Startpunkten aus (1) weiter mit kleiner Schrittweite findet von jedem Startpunkt aus das benachbarte lokale Optimum (Tal)3. große Schrittweite: Ausbruchsversuch aus einem lokalen Optimum

Page 31: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Evolutionsstrategien

Page 32: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

REKOMBINATION:Zwei Eltern-Individuen vererben ihre Eigenschaften auf eine neue Generation von Nachkommen

MUTATION:Die Erbanlagen der neuen Generation werden anschließend nach dem Zufallsprinzip willkürlich verändert

SELEKTION:Sind die Eigenschaften der neuen Generation nunbesser als die der Eltern, so wird sie überleben.Sind sie schlechter, wird sie aussterben.

Evolution von Lebewesen

Page 33: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

REKOMBINATION:Zwei Eltern-Regler vererben ihre Eigenschaften auf eine neue Generation von Nachkommen

MUTATION:Die Erbanlagen der neuen Generation werden anschließend nach dem Zufallsprinzip willkürlich verändert

SELEKTION:Sind die Eigenschaften der neuen Generation nunbesser als die der Eltern, so wird sie überleben.Sind sie schlechter, wird sie aussterben.

Zufalls-auswahlKP , KI

w

ideale Sprungantwortreale Sprungantwort

Lernen !

Lernen !

Evolution von Reglern

Page 34: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

KP1

KD2

KI1

KP2

KD2

KI2

KP1

KD1

KI1

Reglerneu

Regler2

Regler1

A

Z

B

X

Z

Y

A

C

B

KindDNS

MutterDNS

VaterDNS

Lernen durch Vererbung

Page 35: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren
Page 36: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

50 100 150 200

100

200

50 100 150 200

Versuche

Versuche

Versuche

Versuche

Parameter 3

Parameter 2

Parameter 1

Gütewert

50 100 150 200

50 100 150 200

Proportional-Anteil KP

Integral-Anteil KI

Differential-Anteil KD

Gütefunktion G(Regelfläche)

Evolution eines PID-Reglers über 250 Generationen

Ergebnis: PI-Regler !

Page 37: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren

Wann wird der Optimierungsalgorithmus abgebrochen ?

1. wenn ein bestimmter Gütewert erreicht wurde (G < Gwunsch)

2. wenn keine Verbesserung mehr möglich ist

3. wenn maximale Laufzeit überschrittenoder maximale Zahl von Versuchen erreicht

dGdt < minimaler Grenzwert

Versuche

Gütewert

50 100 150 200

Page 38: (5) Optimierung soi BA vorlesung8-11.ppt ... · Optimierungsverfahren •systematische Suche •Zufallssuche (Monte-Carlo-Verfahren) •Hill-Climbing-Verfahren •Evolutionsverfahren