Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie...

41
Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung

Transcript of Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie...

Page 1: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Ingo Rechenberg

PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“

Evolutionsstrategie bei Störungen

Optimieren mit subjektiver Bewertung

Page 2: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

(1 , )-ES

ES mit Störung

= 5

Page 3: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Ideale Funktion in der mathematischen Welt

Rauer Berg in der experimentellen Welt

Praxis

Page 4: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Qualitätsfunktion mit Rauschen

RQQ ~Fehler

222

1e

21)(

RR

R

Rw

+

w

R

Linearer Fortschritt für

Nach einer ziemlich aufwändigen Ableitung

,1,1~ h 22)( Ra

ah

Streuung- gesamteStreuung- mutative

QQ

h wird in der Biologie Fitness-Heritabilität genannt

R xaQ~

Q~

x

R

Anstieg a

Page 5: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Beispiel: 10Mutationen durch vonStreuung Rauschen durch vonStreuung

QQ

aR

linlin ,1,1 1,0~

,1,1~ chc

,,~ chc ,,

~ chc !

,1,12,1 linlin )/(11~ ch

aR

Formale Erweiterung auf ( , ) - ES ?

,1~c

Page 6: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Fortschrittsbeiwerte bei Rauschen

h = 1 h = 1/10 h = 1/100154,0~

10,1 c

242,0~10,2 c

293,0~10,5 c

54,110,1 c

90,010,5 c

35,110,2 c

015,0~10,1 c

025,0~10,2 c

037,0~10,5 c

51,2100,1 c

16,2100,5 c

62,1100,20 c

251,0~100,1 c

635,0~100,5 c

773,0~100,20 c

025,0~100,1 c

095,0~100,5 c

206,0~100,20 c

100,1100,20~24,8~ cc

Das ist keine bloße statistische Mittelung

0457,0100120 h 072,062,10457,0~

100,20 c

für h = 1/10020

20

Page 7: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Individuen-Dispersion einer ( , 10 ) - Evolutionsstrategie

klein

groß

Deutung der Robustheit der ( , ) - ES bei Störungen

Größere Q-Unterschiede,zuverlässigere Selektion

Page 8: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Nichtlineare Störungstheorie für die (1, )-ES

rnc 2

~~ 2,1,1 kug

rnc

aR2)/(1

1~ 2,12,1 kug

0d~d

2optopt 2

~hh

24,1,1 2

~maxmax hh

22

opt21 hha

R

Hilfsvariablefür ein Diagramm

opt~opt (Bei Rauschen) =

nrc ,1

Page 9: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

optopt~

opt

aR

maxmax

~

opt

aR

Optimale Mutationsstreuung am verrauschten Kugelmodell

Maximaler Fortschritt am verrauschten Kugelmodell

Kein Fortschritt für 2opt

aR

Page 10: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Stagnationsradius:

2opt

aRFür ist 0~

max

nrc ,1

,12Stagnation ca

nr R

Eine gestörte Optimierung kann nicht beliebig nahe an die Lösung herankommen. Es bleibt ein Restzielabstand.

Für das Kugelmodell berechnet sich bei Anwendung einer (1, ) - ES der

siehe Diagramm

Page 11: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Robustheit der ( / , ) - ES bei Störungen

Robustheit der ( , ) - ES bei Störungen

Min2

221

RxaxQn

kk

Page 12: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Deutung der Robustheit der ( , ) - ES bei Störungen

Die -fach vergrößerte Schrittweite lässt die Nachkommen besser aus dem Rauschen herausragen.

nrc

,/opt

Aus 0dd ,/

nrc

22

,/max

rnc 2

2,/,/

Für serielles Arbeiten mit der ( /, ) - ES gilt die Regel (s. Vorlesung ES II):

27,0opt

Multirekombination

Page 13: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Beispiele für eine ES-Optimierung bei Störungen

Page 14: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

NeueGeneration

Nachkommenrealisieren

FlexibleBleistreifen

Messungc ca w--

Nachkommenbewerten

Elterneingeben

Evolution eines Spreizflügels im Windkanal

Page 15: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Generation

0

9

1215

18

21

24

27Evolution eines Spreizflügels im Windkanal

6

3

Page 16: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Selektionsansicht

Subjektiv gewählte (selektierte) Figur nachGeneration 0 Generation 20 Generation 40 Generation 80

Entwicklung eines Quadrats bei subjektiver Bewertung

Die x-y-Koordinaten der 6 Ecken der Figur werden mutiert

Auslese nach der „Quadratheit“

Page 17: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Weiterentwicklung des Quadrats zum Mercedes-Stern bei subjektiver Bewertung

Subjektiv gewählte (selektierte) Figur nach

Generation 1

Generation 20

Generation 40

Generation 60

Generation 80

Generation 100

Generation 200

Page 18: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Farbanpassung - Subjektive Bewertung

Page 19: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Subjektive Bewertung

Kaffee-Komposition mitder Evolutionsstrategie

Page 20: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Elter25% Columbia40% Sumatra13% Java 5% Bahia17% Jamaica

Nachkomme 120% Columbia34% Sumatra23% Java 5% Bahia18% Jamaica

Nachkomme 223% Columbia37% Sumatra12% Java10% Bahia18% Jamaica

Nachkomme 325% Columbia32% Sumatra15% Java 8% Bahia20% Jamaica

Nachkomme 430% Columbia38% Sumatra 8% Java 2% Bahia22% Jamaica

Nachkomme 533% Columbia38% Sumatra 9% Java 8% Bahia12% Jamaica

O 1

O 2

O 3

O 4

O 5

Subjektive Bewertung

E

N 3

Evolutionsstrategische Entwicklungeiner Marken-Kaffeemischung

M. Herdy

Page 21: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

MimikrySchmeckt eklig

Schmeckt gut

Page 22: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Der Blauhäher frisst einen Monarchen

Der bekommt dem Vogel schlecht

Vor Übelkeit sträuben sich die Federn

Heraus mit dem Gift

Vorüber, die Lehre wird nicht vergessen

Subjektive Selektion in der Natur

Page 23: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Semachrysa jade

Page 24: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Mimikri

?

Page 25: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Meilensteine in der Theorie der Evolutionsstrategie

1 23

4

Page 26: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

1

Definition der Fortschrittsgeschwindigkeit

Zurückgelegter Weg berganZahl der Versuche

Bei einem Normalverhalten der Welt (starke Kausalität !)

Page 27: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

2Gradienten Strategie kontra Evolutionsstrategie

Für n >> 1

nn

2

1)(evon

n )(grad

1/ n

Evolutionsstrategie

1/n

Gradientenstrategie

Paul Guldin (1577 – 1643)

Guldinsche Regeln

Page 28: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

3

Entdeckung des Evolutionsfensters

Kugelmodell

Korridormodell

10010-210-410-610-8 102 104 106 1080

0,4

0,3

0,2

0,1

*

*

Korridormodell Kugelmodell

Page 29: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

4

Entwicklung der 1/5-Erfolgsregel

gggEN zxx

1gEx

)() (für gggENN QQ xxx

sonst gEx

vergrößern für We > 1 / 5

verkleinern für We < 1 / 5

gz auf die Länge 1 normiert

Page 30: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

5

Elter

Erfolgs-gebiet

Versagen der 1/5-Erfolgsregel am spitzen Grat

Versagen der 1/5-Erfolgsregel an Unstetigkeiten

Page 31: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

6Mehrgliedrige

Evolutionsstrategie

ES -),1(

= 6

Page 32: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

7Vererbbarkeit der Mutabilität und Mutation der Mutabilität

Mutation

DNA-Kopierer

Hat Kopierer hergestellt

Knackpunkt der Evolutionsstrategie

Page 33: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

? ? ?

8

ich bin Spitze

Idee der Mutativen Schrittweiten Regelung (MSR)

Page 34: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

9Von der

ES-),1(

über die

ES-),(

zur

ES-),/(

Page 35: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

10

Kugelmodell

Er

.. .x x2 n

x1

a

q

a

a

Linien Fortschritt

Reduktion des vom Ziel wegführenden Querschritts durch intermediäre Variablenmischung

q

Geometrisches Modell

Page 36: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

11

Steigerung der optimalen Mutationsschrittweite um das -fache

Steigerung der maximalen Fortschrittsgeschwindigkeit um das -fache

ES-),/(

Allerdings nur für 12 n

Page 37: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

12 ES-Optimierung mit subjektiver Bewertung

Rauschen der Qualitätsfunktion

Page 38: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Versagen der Mutativen Schrittweiten Regelung (MSR)

für eine ( 6/6, 12 ) - ES

Nachkommen mit vergrößerter Mutationsschrittweite:50% auf der positiven Seite, 50% auf der negativen Seite.

Nachkommen mit verkeinerter Mutationsschrittweite:50% auf der positiven Seite, 50% auf der negativen Seite.

E

!

Ansteigende Ebene

(kleine Schrittweite)

Auslese der 6 besten Nachkommen und Mittelung ihrer Schrittweiten ergibt die Schrittweitenänderung Null und nicht, wie es richtig wäre, eine -Vergrößerung.

Im Mittel

Page 39: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

( ) - ES +,

Deswegen geschachtelten Evolutionsstrategie

+,[ ]

' = Zahl der Eltern-Populationen' = Zahl der Nachkommen-Populationen

= Zahl der Eltern-Individuen = Zahl der Nachkommen-Individuen = Generationen der Isolation

'= Zahl der Populations-Generationen

Vorlesung ES II

Page 40: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.

Ende

www.bionik.tu-berlin.de

Page 41: Ingo Rechenberg PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“ Evolutionsstrategie bei Störungen Optimieren mit subjektiver Bewertung.