Zürcher Fachhochschule

Was denken denkende Maschinen? WI-Award, Crowne Plaza Zürich, 20.10.2016

Thilo Stadelmann

Zürcher Fachhochschule 2

Was? Wie? Wohin?

1 Was ist passiert?

(Eine kurze Geschichte der letzten Monate)

Zürcher Fachhochschule 3

Zürcher Fachhochschule 4

Zürcher Fachhochschule 5

Zürcher Fachhochschule 6

Zürcher Fachhochschule 7

Zürcher Fachhochschule 8

Generierte Sprache

«aus Texteingabe»

Generierte Musik

«ohne Inhaltsvorgabe»

Zürcher Fachhochschule 9

Zürcher Fachhochschule 10

Zürcher Fachhochschule 11

Zürcher Fachhochschule 12

Zürcher Fachhochschule 13

…und die Liste liesse sich fortsetzen!

Zürcher Fachhochschule 14

…und die Liste liesse sich fortsetzen!

Zürcher Fachhochschule 15

…und die Liste liesse sich fortsetzen!

Zürcher Fachhochschule 16

Was ist passiert? Der ImageNet Wettbewerb

1000 Kategorien

1 Mio. Beispiele …

Zürcher Fachhochschule 17

Was ist passiert? Der ImageNet Wettbewerb

1000 Kategorien

1 Mio. Beispiele …

A. Krizhevsky verwendet als erster ein

sog. «Deep Neural Network» (CNN)

Zürcher Fachhochschule 18

Was ist passiert? Der ImageNet Wettbewerb

1000 Kategorien

1 Mio. Beispiele …

A. Krizhevsky verwendet als erster ein

sog. «Deep Neural Network» (CNN)

Zürcher Fachhochschule 19

Was ist passiert? Der ImageNet Wettbewerb

1000 Kategorien

1 Mio. Beispiele …

A. Krizhevsky verwendet als erster ein

sog. «Deep Neural Network» (CNN)

2015: Computer haben “Sehen” gelernt

4.95% Microsoft (06. Februar)

Besser als Menschen (5.10%)

4.80% Google (11. Februar)

4.58% Baidu (11. Mai)

3.57% Microsoft (10. Dezember)

Zürcher Fachhochschule 20

Was? Wie? Wohin?

2 Wie geht das?

(Was denken denkende Maschinen?)

Zürcher Fachhochschule 21

Grundlage Induktives überwachtes Lernen

Annahme • Ein an genügend viele Beispiele

angepasstes Modell…

• …wird auch auf

unbekannte Daten generalisieren

Methode • Suchen der Parameter einer

gegebenen Funktion…

• …so dass für alle Beispiele Eingabe (Bild)

auf Ausgabe («Auto») abgebildet wird

Quelle: http://lear.inrialpes.fr/job/postdoc-large-scale-classif-11-img/attribs_patchwork.jpg

Zürcher Fachhochschule 22

Suche der Parameter einer Funktion??

Neuron

Merkmale (z.B. Pixel)

Anpassbare Parameter

Entscheidung

(Schwellwert)

Ergebnis (z.B. «Auto»)

𝑦

Zürcher Fachhochschule 23

Suche der Parameter einer Funktion??

Neuron Neuronales Netz

Merkmale (z.B. Pixel)

Anpassbare Parameter

Entscheidung

(Schwellwert)

Ergebnis (z.B. «Auto»)

𝑦

Zürcher Fachhochschule 24

Idee: Mehr Tiefe zum Lernen von Merkmalen

(0.2, 0.4, …)

Containerschiff

Tiger

Klassische Bild-

verarbeitung

(0.4, 0.3, …)

Merkmalsextraktion

(SIFT, SURF, LBP, HOG, etc.)

Containerschiff

Tiger

Mit Convolutional

Neural Networks

(CNNs)

Nimmt rohe Pixel entgegen,

Merkmale werden mitgelernt!

Klassifikation

(SVM, Neuronales Netz, etc.)

…

…

Zürcher Fachhochschule 25

Was «sieht» das Neuronale Netz? Hierarchien komplexer werdender Merkmale

Quelle: https://www.pinterest.com/explore/artificial-neural-network/

Zürcher Fachhochschule 26

Was? Wie? Wohin?

3 Wohin führt das?

(Ein Ausblick)

Zürcher Fachhochschule 27

Was ich nicht erwarte

Zürcher Fachhochschule 28

Was ich nicht erwarte

Zürcher Fachhochschule 29

Was ich nicht erwarte

Zürcher Fachhochschule 30

Was ich erwarte

Zürcher Fachhochschule 31

Was ich erwarte

Zürcher Fachhochschule 32

Was ich erwarte

Zürcher Fachhochschule 33

Was ich erwarte

Zürcher Fachhochschule 34

Was ich erwarte

Zürcher Fachhochschule 35

Schlussfolgerungen

• «Denkende rechnende» Maschinen sind immer noch inselbegabt

• Aber: «Deep Learning» hat zu Quantensprung in Mustererkennungsaufgaben geführt

• Für andere Datenanalyseaufgaben sind andere Verfahren besser geeignet

• Angst ist unangebracht – aber Herausforderungen wollen gestaltet werden:

technisch, ethisch, wirtschaftlich, gesellschaftlich

Mehr zu mir: • Leiter ZHAW Datalab, Vice President SGAICO, Board Data+Service

• thilo.stadelmann@zhaw.ch

• 058 934 72 08

• www.zhaw.ch/~stdm

Mehr zum Thema: • KI: http://www.s-i.ch/en/fachgruppen-und-sektionen/sgaico/

• Verband Data & Service Science: www.data-service-alliance.ch

• Gemeinsame Projekte: datalab@zhaw.ch

Fragen Sie gerne an.

Zürcher Fachhochschule 36

ANHANG

Zürcher Fachhochschule 37

Was «sieht» das Neuronale Netz? Hierarchien komplexer werdender Merkmale

Quelle: http://vision03.csail.mit.edu/cnn_art/data/single_layer.png