Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt...

24
Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer [email protected] Digitalisierungskongress 2018 Gemeinwohl in der digital vernetzten Gesellschaft: Wir arbeiten dran! Bildquelle: Wikipedia - Jan Matejkos Stańczyk

Transcript of Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt...

Page 1: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen

Hendrik Heuer [email protected]

Digitalisierungskongress 2018 Gemeinwohl in der digital vernetzten Gesellschaft: Wir arbeiten dran!

Bildquelle: Wikipedia - Jan Matejkos Stańczyk

Page 2: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Mein Ziel in diesem Vortrag

• Algorithmen des Maschinellen Lernens und ihre Konsequenzen für Gemeinwohl und Arbeitswelt verstehen und mitgestalten

• Wo kann KI durch bessere Prognosen, schnellere Entscheidungen und die Automatisierung von Routineaufgaben dazu beitragen, die Arbeitswelt zu verbessern?

• Wo bergen neue Möglichkeiten der Vorhersage und automatisierten Überwachung Gefahren für Arbeitswelt und Gesellschaft?

Page 3: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Bildquelle: Wikipedia - ENIAC

Page 4: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Panopticon

Bildquelle: Wikipedia - Presidio Modelo

Page 5: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Examples of Machine Learning

http://googleresearch.blogspot.com/2014/11/a-picture-is-worth-thousand-coherent.html

By Steve Jurvetson [CC BY 2.0]

Self-driving cars

Photo search

and many, many more ...

Recommendation systems

http://commons.wikimedia.org/wiki/File:Netflix_logo.svg [public domain]

Beispiele für Maschinelles Lernen & KI

Oben:SebastianRaschka-PracticalDataScience,Unten:JeffHinton-Google

“How cold is it outside?”

DeepRecurrent

Neural NetworkAcoustic Input Text Output

Reduced word errors by more than 30%

Speech Recognition

Google Research Blog - August 2012, August 2015

Speech Recognition

Page 6: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Beispiele für Maschinelles Lernen & KI

http://commons.wikimedia.org/wiki/File:American_book_company_1916._letter_envelope-2.JPG#filelinks [public domain]

https://flic.kr/p/5BLW6G [CC BY 2.0]

Text Recognition

Spam Filtering

Biology

Examples of Machine Learning

“ocean”Deep

ConvolutionalNeural Network

Your Photo

Automatic Tag

Search personal photos without tags.

Google Photos Search

Google Research Blog - June 2013

Image Recognition

Oben:SebastianRaschka-PracticalDataScience,Unten:JeffHinton-Google

Page 7: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Spam erkennenIMPERATIVE

PROGRAMMIERUNGMASCHINELLES

LERNEN

if "V!agrå" in mail: return "Spam"

else: return "Ham"

1. prognostiziere für viele Beispiele, ob Nachricht Spam ist

2. berechne Fehler 3. ändere Parameter,

um Fehler zu verringern 4. goto 1

Page 8: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Fei-Fei Li & Justin Johnson & Serena Yeung Lecture 2 - April 6, 201755

Example with an image with 4 pixels, and 3 classes (cat/dog/ship)

0.2 -0.5 0.1 2.0

1.5 1.3 2.1 0.0

0 0.25 0.2 -0.3

WInput image

56

231

24

2

56 231

24 2

Stretch pixels into column

1.1

3.2

-1.2

+-96.8

437.9

61.95

=Cat score

Dog score

Ship score

Instead of considering only the closest neighbor, we can also consider an arbitrarynumber, k, of neighbors. This is where the name of the k-nearest neighbors algorithmcomes from. When considering more than one neighbor, we use voting to assign alabel. This means that for each test point, we count how many neighbors belong toclass 0 and how many neighbors belong to class 1. We then assign the class that ismore frequent: in other words, the majority class among the k-nearest neighbors. Thefollowing example (Figure 2-5) uses the three closest neighbors:

In[11]:

mglearn.plots.plot_knn_classification(n_neighbors=3)

Figure 2-5. Predictions made by the three-nearest-neighbors model on the forge dataset

Again, the prediction is shown as the color of the cross. You can see that the predic‐tion for the new data point at the top left is not the same as the prediction when weused only one neighbor.

While this illustration is for a binary classification problem, this method can beapplied to datasets with any number of classes. For more classes, we count how manyneighbors belong to each class and again predict the most common class.

Now let’s look at how we can apply the k-nearest neighbors algorithm using scikit-learn. First, we split our data into a training and a test set so we can evaluate general‐ization performance, as discussed in Chapter 1:

36 | Chapter 2: Supervised Learning

Page 9: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Brustkrebs erkennenExample: breast cancer classification

Plot of two features: mean area vs. mean concave points, for two classes

7

J. Zico Kolter, 15-388/688, Practical Data

Science

Page 10: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

J. Zico Kolter, 15-388/688, Practical Data

Science

Brustkrebs erkennenLinear classification example

Linear classification ≡ “drawing line separating classes”

8

Page 11: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Brustkrebs erkennenLinear classification example

Linear classification ≡ “drawing line separating classes”

8

Moritz Hardt, How big data

is unfair

Page 12: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

ProPublica: Machine Bias

Verbrechen vorhersagen

3 LOW RISK 8 HIGH RISK

Page 13: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

LOW RISK

HIGH RISK

X y' '

Page 14: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Verbrechen vorhersagen

Deutschlandfunk: Algorithmen im US-

Justizsystem Schicksalsmaschinen von Tom Schimmeck

Page 15: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

"Die Kombination von großen Datenmengen und Machine Learning führt zu Manipulationsmethoden, die die Zukunft

von Demokratie und gesellschaftlichem Zusammenhalt gefährden. Dem muss zügig und mit Nachdruck und ohne

Scheu vor dem Eingriff in Geschäftsmodelle entgegengetreten werden.

Frank Rieger im Bayern 2 Zündfunk

Paul Butler: Visualizing Friendships

Page 16: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Persönlichkeitsmerkmale erkennenWeiße/r oder Afroamerikaner/in: 95%

Männlich oder Weiblich: 93%Heterosexuell oder homosexuell: 88%

Demokrat oder Republikaner: 85%Christlich oder muslimisch: 82%

Drogenerfahrung: 65% - 73%Ehe der Eltern hat bis zum 21. Lebensjahr gehalten: 60%

Kosinski et al.: Private traits and attributes are predictable from digital records of human

behavior

Page 17: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Persönlichkeitsmerkmale erkennen

Kosinski et al.: Private traits and attributes are predictable from digital records of human

behavior

Page 18: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Algorithmen-TÜV?

Page 19: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

François Chollets Forderungen an ein Algorithmische Nachrichtenkuration

• das Optimierungsziel des Algorithmus transparent machen

• zeigen, welchen Einfluss diese System auf den täglichen Nachrichtenkonsum (news diet) haben

• Werkzeuge bereithalten, um diese Ziele zu beeinflussen

Page 20: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Was kann ver.di tun?

• Austausch zwischen Forschung & Gesellschaft fördern, Expertise aufzubauen

• individuelle Regulierung maschineller Systeme • Untersuchung und Sanktionierung von

Datensammel- und Algorithmennutzungspraktiken

• Informatikkompetenz auf allen Ebenen • der Idee, dass jedes soziale oder politische

Problem technologisch gelöst werden kann, entgegentreten

Page 21: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Welche Fragen, Probleme und Ideen bringt ihr mit?

Page 22: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen

Hendrik Heuer ifib & AGIM

Dr. Martin Beckmann ver.di-Bundesverwaltung

Page 23: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Totalüberwachung durch Verschärfung des bayerischen Polizeirechts

DVD-Vorstandsmitglied Thilo Weichert: „Die Regelung zur Mustererkennung ermöglicht es der Polizei, technisch Menschen aus einer Menschenmenge als verdächtig herauszufischen, nur weil sie als verdächtig programmierte Eigenschaften haben. Damit wird der digitalisierten Willkür und der Diskriminierung von Minderheiten die Tür geöffnet. Dies trifft auch für die Erstellung sog. genetischer Phantombilder zu. Diese Techniken befinden sich noch in einem Entwicklungsstadium, das mehr Fehler als polizeiliche Hilfe produziert.“

Quelle Text: datenschutzverein.de Bildquelle: https://twitter.com/SophiePassmann/status/981820891217702912

Page 24: Nachteile verhindern, Chancen nutzen+file++5af03ba8... · Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen Hendrik Heuer hheuer@uni-bremen.de

Bildquelle: Wikipedia - Erasmusbrücke, Rotterdam

Kann eine Brücke rassistisch sein? Langdon Winner