Adaptive Systeme

of 25/25
Adaptive Systeme Prof. Rüdiger Brause WS 2013
  • date post

    17-Jan-2016
  • Category

    Documents

  • view

    40
  • download

    1

Embed Size (px)

description

Adaptive Systeme. Prof. Rüdiger Brause WS 2013. Organisation. „Einführung in adaptive Systeme“ B-AS-1, M-AS-1 Vorlesung Dienstags 10-12 Uhr, SR11 Übungen Donnerstags 12-13 Uhr, SR 9 „Adaptive Systeme“ M-AS-2 (Theorie) Vorlesung Donnerstags 10-12 Uhr, SR 9 - PowerPoint PPT Presentation

Transcript of Adaptive Systeme

Adaptive Systeme

Adaptive SystemeProf. Rdiger Brause WS 2013

1OrganisationEinfhrung in adaptive Systeme B-AS-1, M-AS-1Vorlesung Dienstags 10-12 Uhr, SR11bungen Donnerstags 12-13 Uhr, SR 9Adaptive Systeme M-AS-2 (Theorie)Vorlesung Donnerstags 10-12 Uhr, SR 9bungen Donnerstags 13-14 Uhr, SR 9

Tutor: Markus Hildebrand [email protected] bungsblatt, unterteilt in 2 TeileAusgabe: Dienstags, Abgabe: Dienstags per emailBesprechung: DonnerstagsRdiger Brause: Adaptive Systeme, Institut fr Informatik- 2 -

GrundlagenEinfhrungModellierungRdiger Brause: Adaptive Systeme, Institut fr Informatik- 3 -

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 4 -Vorschau ThemenEinfhrung und GrundlagenLernen und KlassifizierenMerkmale und lineare TransformationenLokale Wechselwirkungen: Konkurrentes LernenNetze mit RBF-ElementenFuzzy-Systeme Evolutionre und genetische AlgorithmenSchwarmalgorithmen

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 5 -Arten von Adaptiven SystemeVorbild GehirnNeuronale NetzePsychologisch-kognitive ModelleBiologische SystemeEvolutionre SystemeSchwarm-Intelligenz: Ameisen-Algorithmen,...Molekular-genetische SelbstorganisationSoziale SystemeGruppenprozesseSoziale SelbstordnungPhysikalische SystemeSynergieeffekte Technische Systeme

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 6 -Selbst-anpassende Systeme statt programmierenBeispiel: Temperaturregler statt fester Heizeinstellung

Lernende SystemeTrainierte Systeme (Trainingsphase-Testphase)Selbstlernende Systeme (Orientierung an Daten)Einleitung: Was sind Adaptive Systeme ?HeizungVorgabeAdapt. RegelungSensor

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 7 -Wozu Adaptive Systeme ?Adaptive Schtzung von ProzeparameternNicht-lin. Reaktionen, Produktionsoptimierung,..Adaptive Kontrolle und RegelungLandekontrollsysteme, Roboterkontrolle,..Adaptive KlassifikationQualittskontrolle, med. Diagnose, Bonittsprfung,..

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 8 -Einsatzgebiete Adaptiver SystemeEchtzeitreaktionen Stahlwalzstraen, Flugzeugsteuerung,.. Analytisch unbekannte AbhngigkeitenPolymerchemie, DNA-Schtzungen, ..Analytisch nicht zugngige Abhngigkeitenpsychische Faktoren, ergebnisverndernde Messungen,..Analytisch nur unter groem Aufwand bearbeitbare,hochdimensionale Gesetzmigkeiten Wechselkursabhngigkeiten,..Statistische Analysen durch untrainierte Benutzer (?!)

GrundlagenEinfhrungModellierungRdiger Brause: Adaptive Systeme, Institut fr Informatik- 9 -

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 10 -Vorbild Gehirn

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 11 -Das Vorbild: Gehirnfunktionen Unterteilung des Gehirns in funktionale Bereiche

Gehirn = 2-dim Tuch

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 12 -Das Vorbild: Gehirnfunktionen Unterteilung der Neuronenschicht: Darstellungsarten

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 13 -Das Vorbild: Gehirnfunktionen Neuronentypen

a)-c) Pyramidenzellenf,h) Stern/Glia zellen

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 14 -Das Vorbild: Gehirnfunktionen Pyramidalzellen

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 15 -

SpikesDas Vorbild: Gehirnfunktionen Signalverarbeitung Output

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 16 -

Das Vorbild: Gehirnfunktionen Signalverarbeitung InputRuhe-potential EingabeZellkernFrequenzmodulierungDekodierungEinheitsladungenZell-Potential ~ Eingabe-Spikefrequenz

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 17 -Das Vorbild: Gehirnfunktionen Signalverarbeitung Input-Output

Tintenfisch-Riesenneuron: Ausgabe-Spikefrequenz ~ ZellstromLineares Modell z = kxZell-Potential ~ Eingabe-SpikefrequenzAusgabe-Spikefrequenz ~ Zellstrom Ausgabe-Freq.z ~ Eingabe-Freq.xxy Begrenzt-Lineares Modell y = S(z)Sttigung wenn zu groe AktivittKeine Ausgabe wenn keine Aktivitt Ausgabe-Freq. S(z) limitiertu

FrageWie lautet die math. Schreibweise fr die begrenzt-lineare Aktivitt y = S(z)?Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 18 -

GrundlagenEinfhrungModellierungRdiger Brause: Adaptive Systeme, Institut fr Informatik- 19 -

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 20 -ModellierungInformatik: Granularitt Paralleler AktivittGrob: Computer, Jobs (Lastverteilung) wenig Komm.Fein: Multi-CPU, Threads viel Komm.Sehr fein: formale Neuronen, Funktionen sehr viel Komm

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 21 -Modellierung formaler Neuronenx1x2x3w1w2w3yzAkti-vierungAusgabe (Axon)Gewichte (Synapsen)Eingabe (Dendriten)x = (x1, ... ,xn)w = (w1, ... ,wn)DendritenAxonZellkrperSynapsen

y = S(z) z = = wTxsquashing functionradial basis functionAusgabefunktionen

21So wie die Biologie die Wissenschaft vom Leben ist, so ist die Informatik die Wissenschaft von der Informationsverarbeitung.Wie wird Information im Gehirn verarbeitet? Um diese Frage zu lsen, baut man am besten selbst ein eigenes Gehirn.Die Neuroinformatik versucht mit Hilfe abstrahierter, auf wenige typische Merkmale beschrnkte Neuronen intelligente Systeme zu konstruieren.Dabei werden vom biologischen Neuron alle Eingnge (ca. 200-300 Dendriten) von einem Neuronenausgang (Axon) durch nur eine Eingabe, die Strke aller Verbindungen (Synapsen) zu einem Neuron durch ein Gewicht modelliert.

Formal lassen sich alle Eingabe zu einem Tupel (Vektor) zusammenfassen, ebenso wie die Gewichte.

Die Aktivitt ist dann die gewichtete Summe aller Eingnge.Eine nichtlineare Ausgabefunktion analog zum biologischem Vorbild verleiht dem Modell interessante Eigenschaften.

So lassen sich mehrere gleichartige Neuronen zu Funktionsgruppen zusammenfassen, den Schichten.Es lt sich zeigen, da zwei Schichten ausreichen, um jede beliebige Funktion beliebig dicht anzunhern, also sie zu simulieren.Dies macht es mglich, durch Anpassen der Gewichte unbekannte Funktionen und Abhngigkeiten zu lernen (black box), beispielsweise die Diagnose medizinischer Daten eines Patienten oder die Vorhersage der 3D-Struktur eines Proteins aus den Gensequenzen.Das Lernen wird dabei algorithmisch angegeben als Verbesserung der Gewichte (Parameter) nach der Eingabe von Beispielen.Die mathematische Beschreibung des Lernens ist so eng mit der mathematischen Approximationstheorie verbunden.

Rdiger Brause: Adaptive Systeme, Institut fr Informatik- 22 -Formale NeuronenCode-Beispiel formales Neuronfloat z (float w[ ],float x[ ]) {/* Sigma-Neuron: Aufsummieren aller Eingaben */float sum;

sum = 0; /* Skalarprodukt bilden */ for (int i = 0; i s) z = Zmax;if (z