Evolutionärer Entwurf neuronaler Netze

Institut für Informatik

Inhaltsverzeichnis

Einleitung

Neuronale Netze

Evolutionäre Algorithmen

Evolutionärer Ansatz zu Konstruktion neuronaler Netze

Advanced Evolutionary Algorithmus (AEA)

Die Attribute des AEA

Experimente

Ergebnisse

Institut für Informatik

Einleitung

Institut für Informatik

Neuronale Netze

Biologische Neuronen

Künstliche Neuronen

Institut für Informatik

Evolutionäre Algorithmen

Natürliche Evolution

Evolutionäre Algorithmen als Such- und Optimierungsverfahren

Vorgehensweise evolutionärer Algorithmen

- Parameter

-Chromosome

-Funktionen

Institut für Informatik

Evolutionärer Ansatz zu Konstruktion neuronaler Netze Population und Individuen

- Neue Population und genetische Operatoren

- Binäre Verschlüsselung der Formeln und als Chromosome

- Mutation und Cross-Over

Institut für Informatik

Evolutionärer Ansatz zu Konstruktion neuronaler Netze

Ai = f7(a1 .x1 + a6 .(f4(a2 .x1)) + a7 .( f5(a3 .x1 + f3(a4 .x2))) + a8 .(f6(a5 . x2)))

Institut für Informatik

Advanced Evolutionary Algorithmus (AEA)

Die Attribute des AEA

- Verzweigung(Forking)

- Automatischer Austauchen der Wahrscheinlichkeitsverteilung der Mutation

- Lernen

- Automatische Feststellung/Ermittlung der optimale Verarbeitungsgeschwindigkeit der neuronale Netze

1. Verzweigung (Forking) :

- Subräume

-lokales und globales Optimum

Institut für Informatik

Advanced Evolutionary Algorithmus (AEA)

2. Automatischer Austauchen der Wahrscheinlichkeitsverteilung der Mutation

3. Lernen

-Beschleunigung der Evolution

4.Verarbeitungsgeschwindigkeit

Institut für Informatik

Experimente

Timita Automaten und TXOR-Funktionen

Die Größe der resultierenden neuronalen Netzgröße durch

AEA,GNARL,GARNN

Beschleunigen der Evolution durch Lernen(30%)

Institut für Informatik

Experimente Ameisen-Problem : - Die Futtersuche der Ameisen und Darstellung

eines Problems in einem Graph

-Durch AEA erreichte neuronales Netz

-durchschnittlicher Verlauf von 10

-evolutionäre Ausführungen (AEA).

Institut für Informatik

Ergebnisse

AEA-Lösungen haben eine bessere Generalisierungsfähigkeit

AEA hat eine höhere Verarbeitungsgeschwindigkeit

Verbesserung der Wahrscheinlichkeitsverteilung der Mutation

Entwicklung ein Modell eines mehrschichtigen neuronalen Netzes