Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/211

Klassifikation von Multidimensionale Zeitreihen mit

Hilfe von Deep Learning

Manuel Meyer

Master Grundseminar WS 2014 / 2015

Betreuender Professor: Prof. Dr.-Ing. Andreas Meisel

Master Informatik - Grundseminar

Department Informatik

19.01.2016 M. Meyer

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/212

Gliederung

• Motivation & Zielsetzung

• Das Neuron

• Training Neuronaler Netze

• Netze für zeitveränderliche Muster

• Aktuelle Entwicklungen

• Veröffentlichungen

• Eigene Idee

• Abgrenzung

• Ziele Projekt 1 & Hauptprojekt

• Konferenzen

19.01.2016 M. Meyer

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Motivation & Zielsetzung

19.01.2016 M. Meyer 3

Klassi

fikato

r

Sensoren

Diagnosewahrscheinlichkeit einer Krankheit

Herzinfarkt Gefährdung

Ja

Nein

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Das Neuron

Aktivierungsfunktion

19.01.2016 M. Meyer 4

+Neuron j

𝑊1𝑗

𝑊2𝑗

𝑊3𝑗

j Schwellwert (bias)

𝑂𝑗

𝑂𝑗 = 𝑓(𝑛𝑒𝑡𝑗)

𝑛𝑒𝑡𝑗

jij

i

ij wonet Anm. zur Gewichtsnotation:𝑾𝑬𝒊𝒏𝒈𝒂𝒏𝒈𝒔𝒏𝒖𝒎𝒎𝒆𝒓 𝒊 , 𝑵𝒓.𝒅𝒆𝒔 𝑵𝒆𝒖𝒓𝒐𝒏 (𝒋)

𝐎1

𝑶2

𝑶𝑛

.

.

.

[1]

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Verbindungsnetzwerk (feed-forward NN) Anm.: = Neuron

19.01.2016M. Meyer

5

Verdeckte Schicht

Ausgabeschicht

EingabeschichtEingabedaten

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Training Neuronaler Netze

19.01.2016 M. Meyer 6

Wie können die

Verbindungsgewichte

eingestellt werden ?

Training

= Beeinflussung der Gewichte,

so dass sich das gewünschte

Verhalten einstellt.

[1]

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Netze für zeitveränderliche Muster

Sliding-Window-Verfahren

Zweck:

Erkennung von Systematiken in

Impulsfolgen

Beispiele:

- Prognosesysteme,

- Aktien kaufen/halten/verkaufen,

- Wetterdaten,

- medizinische Diagnostik

19.01.2016 M. Meyer 7

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Netze mit Rückkopplung (rekurrente Netze)

Ausgangssignale sind abhängig

– Von den Eingangssignalen

– Von der zeitlichen Vorgeschichte (gespeichert als innerer Zustand)

• Erkennung von Systematiken in Zeitfunktionen (Jordan-Elman-Netz)

• EKG-Klassifizierung für die Erkennung von ventrikulären Extrasystolen,

Herzkammer-flattern, Herzkammerflimmern und anderen

Herzrhythmusstörungen.

19.01.2016 M. Meyer 8

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Netze mit Rückkopplung (rekurrente Netze)

19.01.2016 M. Meyer 9

Eingabeschicht

verdeckte Schicht

Ausgabeschicht

[1]

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Aktuelle Entwicklungen (Was ist CNN?)

Convolutional Neuronal Networks (CNN):

- Faltungsnetzwerke

- Eine Variante von NN mit mehreren Schichten und besonderer

Architektur

- Vorgestellt von Yann LeCun et al. in 1989 [2]

- Liefern sehr gute Ergebnisse z.B. bei:

- Gesichtserkennung

- Bilderkennung

- Spracherkennung

- Robust: unempfindlich gegen Rotation, Translation, Skalierung, usw.

19.01.2016 M. Meyer 10

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Faltung

19.01.2016 M. Meyer 11

Grundprinzip der Faltung [4]

• Eingabedaten werden mit einer

Faltungsmaske bearbeitet

• Korrespondierende Punkte

werden berechnet und neuer

Pixel wird erzeugt

• Merkmale/Features können

hervorgehoben oder unterdrückt

werden

• Faltungskerne werden trainiert

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Stand der Technik I

• Deep Belief Network Based State Classification for Structural Health

Diagnosis [2]

• Wichita State University

• Prasanna Tamilselvan, Yibin Wang, Pingfeng Wang

• IEEE Aerospace Conference, 2012 , Montana (03 Mar - 10 Mar 2012)

• Effektive Diagnoseverfahren für aircraft wing structure (verbesserte Sicherheit

u. Zuverlässigkeit, Lebenszyklus, Belastungsgrenzen )

• geringere Kosten für Wartung und Reparatur

• mehrere gestapelte Restricted Boltzmann-Maschinen

• Höhere Genauigkeit durch Klassifikation

– weitere Untersuchungen -> Prognosen Multisensoren von komplexen

Systemen

19.01.2016 M. Meyer 12

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Stand der Technik II

• Long-term Recurrent Convolutional Networks for Visual Recognition and

Description [3]

• The IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Boston,

MA (07 June - 12 June 2015)

• Donahue, J., Hendricks, L.A. ; Guadarrama, S. ; Rohrbach, M. ; Venugopalan, S. ;

Darrell, T. ; Saenko, K, UC Berkeley, Berkeley, CA, USA

• Entwicklung neuer Architektur von recurrent convolutional neural network (RCNN)

• Experimente - Video und Bildsequenzerkennung mit Bildbeschreibung

19.01.2016 M. Meyer 13

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Stand der Technik II

19.01.2016 M. Meyer 14

[3]

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Idee

• Convolutional Neuronale Netze + Netze mit Rückkopplung

• Heterogene Sensordaten

• Vorhersage, Prognosen, Abschätzungen

• aus vorgegebenen Daten weitere Informationen gewinnen

• Aktuelle Verfahren der Mustererkennung

19.01.2016 M. Meyer 15

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Abgrenzung

• Verknüpfung von Convolutional Neuronale Netze +

Rückgekoppelten Netze (rekurrente Netze)

• Aktuelle Verfahren der Musterkennung

• Heterogenen Sensordaten

19.01.2016 M. Meyer 16

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Ziele Grundprojekt 1

• Tieferes Verständnis der CNN verschaffen

• Erprobung verschiedener Bibliotheken/Frameworks (CNN+RNN)

– Matlab, Caffe, Tensorflow…..

• Trainingsumgebung kennenlernen und erweitern

• Beschaffung geeigneter Trainings- und Testdatensätze für

multidim. Zeitsignale

19.01.2016 M. Meyer 17

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Ziele Hauptprojekt

• Szenario festlegen

• Aufbau eigenes Multisensorsystem

• ……..

19.01.2016 M. Meyer 18

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Konferenzen

• ICANN - International Conference on Artifical Inteligence

Neuronal Network (September 6-9, 2016 in Spain, Barcelona)

• GPU Technology Conference (NVIDIA Conference)

(April 4-7, 2016 in Silicon Valley)

• Deeper Learning Conference (March 23-25, 2016 in

San Diego, CA)

19.01.2016 M. Meyer 19

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Danke für Ihre Aufmerksamkeit

19.01.2016 M. Meyer 20

Gibt es noch Fragen?

Department Informatik

Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning

/21

Literaturverzeichnis

[1] A. Meisel. Vorlesungsskript „Robot Vision“ 2015.

[2] Prasanna Tamilselvan, Yibin Wang, Pingfeng Wang, Deep Belief Network Based State Classification for

Structural Health Diagnosis. Wichita State University, 2012.

[3] Donahue, J., Hendricks, L.A. ; Guadarrama, S. ; Rohrbach, M. ; Venugopalan, S. ; Darrell, T. ; Saenko, K,

Long-term Recurrent Convolutional Networks for Visual Recognition and Description, UC Berkeley,

Berkeley, CA, USA, 2015.

[4] Tobias, H. : Klassifikation hochvarianter Muster mit Faltungsnetzwerken, HAW Hamburg, Bachelorarbeit,

Januar 2012.

[5] http://jan.ucc.nau.edu/~daa/heartlung/ekgfile/.

19.01.2016 M. Meyer 21