Ingo Rechenberg

PowerPoint-Folien zur 4. Vorlesung „Evolutionsstrategie I“

Vier elementare Optimierungsstrategien auf dem Prüfstand

Qx ?

Strategie

VersuchsobjektQualitätsmessungVerstellbarkeitExperimentierkreis

4 Strategien

1. Globale deterministische Suche

2. Globale stochastische Suche

3. Lokale deterministische Suche

4. Lokale stochastische Suche

Versuchsfeld

Experimentator

Auf der Suche nach dem Optimum

1. Globale deterministische Suche

Systematisches Abscannen des Variablenraums

2)2( mG nn mG )(

1 m

m

1

m

m

1

1

2. Globale stochastische Suche

Zum Finden des Ziels mit 95% Wahrscheinlichkeit

2)2( 3mG nn mG 3)(

3. Lokale deterministische Suche

Wandern entlang des steilsten Anstiegs

3)2(

grad

1)(

grad n

n

L inearitä tsrad ius

x

y

Nachkom m e ( )E lter

Nachkom m e ( )

+

Linearitätsradius

4. Lokale stochastische Suche

Zufallsdriften entlang des steilsten Anstiegs

)2(evo n

n 12

)(evo

n >> 1

Randverteilte Zufallsmutationen

Volumenverteilte Zufallsmutationen

)(

)(

21

22

)(evo

n

nn

12

12

2)(

evo

nn

n

nn

)(

)(

{

nnn R

nnV

)(22 Γ

2/)(

12/

)(

2Γ2 nnn R

nO

)(

Volumen einer n-dimensionalen Kugel

Oberfläche einer n-dimensionalen Kugel

20 40 60 80 1001

0,5

1,0

1

90r

Vo lum e n-Ve rte ilung

n

Zur Geometrie der n-dimensionalen Kugel

Gradientenstrategie kontra Evolutionsstrategie

Für n >> 1

nn 1

2)(

evo

n

n )(grad

1/n

1/ n

Gradientenstrategie

kontra

Evolutionsstrategie

Lineare lokale Klettertheorie in einer stark kausalen Optimierungslandschaft

Der Dumme, der einfach losgeht, kommt weiter als der Schlaue, der sitzen bleibt und sich vor lauter Nachdenken nicht entscheiden kann.

Motto des Evolutionsstrategen

10 klassische Optimierungsstrategien

1. Gauß-Seidel-Strategie

2. Strategie von Hooke und Jeeves

3. Rosenbrock-Strategie

4. Strategie von Davis, Swann und Campey (DSC)

5. Simplex-Strategie von Nelder/Mead

6. Complex-Strategie von Box

7. Powell-Strategie

8. Newton-Strategie

9. Strategie von Steward

10. Strategie von Davidon, Fletcher und Powell (DFP)

Aktuell: SQP-Verfahren

(Sequential Quadradic Approximation)

Elementare Gradientenstrategie

x

x

x3

1

2

x

x

x3

1

2

Extrapolierende Gradientenstrategie

x

x

x3

1

2

Gauß-Seidel- oder Koordinatenstrategie

x

x

x3

1

2

1

3

2

45

6

Simplex-Strategie von Nelder/Mead

ggg zxx EN

Algorithmus der (1 + 1) - ES

1gEx

)() ( für gggENN xQxx Q

sonst gEx{

nn 1

2)(

evo

Beliebig groß ?

E nde der L inearität G loba le stochastische Suche

evo

Suche nach dem maximalen Fortschritt

Wo ist das Optimum ???

Ende