Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen

Hendrik Heuer hheuer@uni-bremen.de

Digitalisierungskongress 2018 Gemeinwohl in der digital vernetzten Gesellschaft: Wir arbeiten dran!

Bildquelle: Wikipedia - Jan Matejkos Stańczyk

Mein Ziel in diesem Vortrag

• Algorithmen des Maschinellen Lernens und ihre Konsequenzen für Gemeinwohl und Arbeitswelt verstehen und mitgestalten

• Wo kann KI durch bessere Prognosen, schnellere Entscheidungen und die Automatisierung von Routineaufgaben dazu beitragen, die Arbeitswelt zu verbessern?

• Wo bergen neue Möglichkeiten der Vorhersage und automatisierten Überwachung Gefahren für Arbeitswelt und Gesellschaft?

Bildquelle: Wikipedia - ENIAC

Panopticon

Bildquelle: Wikipedia - Presidio Modelo

Examples of Machine Learning

http://googleresearch.blogspot.com/2014/11/a-picture-is-worth-thousand-coherent.html

By Steve Jurvetson [CC BY 2.0]

Self-driving cars

Photo search

and many, many more ...

Recommendation systems

http://commons.wikimedia.org/wiki/File:Netflix_logo.svg [public domain]

Beispiele für Maschinelles Lernen & KI

Oben:SebastianRaschka-PracticalDataScience,Unten:JeffHinton-Google

“How cold is it outside?”

DeepRecurrent

Neural NetworkAcoustic Input Text Output

Reduced word errors by more than 30%

Speech Recognition

Google Research Blog - August 2012, August 2015

Speech Recognition

Beispiele für Maschinelles Lernen & KI

http://commons.wikimedia.org/wiki/File:American_book_company_1916._letter_envelope-2.JPG#filelinks [public domain]

https://flic.kr/p/5BLW6G [CC BY 2.0]

Text Recognition

Spam Filtering

Biology

Examples of Machine Learning

“ocean”Deep

ConvolutionalNeural Network

Your Photo

Automatic Tag

Search personal photos without tags.

Google Photos Search

Google Research Blog - June 2013

Image Recognition

Oben:SebastianRaschka-PracticalDataScience,Unten:JeffHinton-Google

Spam erkennenIMPERATIVE

PROGRAMMIERUNGMASCHINELLES

LERNEN

if "V!agrå" in mail: return "Spam"

else: return "Ham"

1. prognostiziere für viele Beispiele, ob Nachricht Spam ist

2. berechne Fehler 3. ändere Parameter,

um Fehler zu verringern 4. goto 1

Fei-Fei Li & Justin Johnson & Serena Yeung Lecture 2 - April 6, 201755

Example with an image with 4 pixels, and 3 classes (cat/dog/ship)

0.2 -0.5 0.1 2.0

1.5 1.3 2.1 0.0

0 0.25 0.2 -0.3

WInput image

56

231

24

2

56 231

24 2

Stretch pixels into column

1.1

3.2

-1.2

+-96.8

437.9

61.95

=Cat score

Dog score

Ship score

Instead of considering only the closest neighbor, we can also consider an arbitrarynumber, k, of neighbors. This is where the name of the k-nearest neighbors algorithmcomes from. When considering more than one neighbor, we use voting to assign alabel. This means that for each test point, we count how many neighbors belong toclass 0 and how many neighbors belong to class 1. We then assign the class that ismore frequent: in other words, the majority class among the k-nearest neighbors. Thefollowing example (Figure 2-5) uses the three closest neighbors:

In[11]:

mglearn.plots.plot_knn_classification(n_neighbors=3)

Figure 2-5. Predictions made by the three-nearest-neighbors model on the forge dataset

Again, the prediction is shown as the color of the cross. You can see that the predic‐tion for the new data point at the top left is not the same as the prediction when weused only one neighbor.

While this illustration is for a binary classification problem, this method can beapplied to datasets with any number of classes. For more classes, we count how manyneighbors belong to each class and again predict the most common class.

Now let’s look at how we can apply the k-nearest neighbors algorithm using scikit-learn. First, we split our data into a training and a test set so we can evaluate general‐ization performance, as discussed in Chapter 1:

36 | Chapter 2: Supervised Learning

Brustkrebs erkennenExample: breast cancer classification

Plot of two features: mean area vs. mean concave points, for two classes

7

J. Zico Kolter, 15-388/688, Practical Data

Science

J. Zico Kolter, 15-388/688, Practical Data

Science

Brustkrebs erkennenLinear classification example

Linear classification ≡ “drawing line separating classes”

8

Brustkrebs erkennenLinear classification example

Linear classification ≡ “drawing line separating classes”

8

Moritz Hardt, How big data

is unfair

ProPublica: Machine Bias

Verbrechen vorhersagen

3 LOW RISK 8 HIGH RISK

LOW RISK

HIGH RISK

X y' '

Verbrechen vorhersagen

Deutschlandfunk: Algorithmen im US-

Justizsystem Schicksalsmaschinen von Tom Schimmeck

"Die Kombination von großen Datenmengen und Machine Learning führt zu Manipulationsmethoden, die die Zukunft

von Demokratie und gesellschaftlichem Zusammenhalt gefährden. Dem muss zügig und mit Nachdruck und ohne

Scheu vor dem Eingriff in Geschäftsmodelle entgegengetreten werden.

Frank Rieger im Bayern 2 Zündfunk

Paul Butler: Visualizing Friendships

Persönlichkeitsmerkmale erkennenWeiße/r oder Afroamerikaner/in: 95%

Männlich oder Weiblich: 93%Heterosexuell oder homosexuell: 88%

Demokrat oder Republikaner: 85%Christlich oder muslimisch: 82%

Drogenerfahrung: 65% - 73%Ehe der Eltern hat bis zum 21. Lebensjahr gehalten: 60%

Kosinski et al.: Private traits and attributes are predictable from digital records of human

behavior

Persönlichkeitsmerkmale erkennen

Kosinski et al.: Private traits and attributes are predictable from digital records of human

behavior

Algorithmen-TÜV?

François Chollets Forderungen an ein Algorithmische Nachrichtenkuration

• das Optimierungsziel des Algorithmus transparent machen

• zeigen, welchen Einfluss diese System auf den täglichen Nachrichtenkonsum (news diet) haben

• Werkzeuge bereithalten, um diese Ziele zu beeinflussen

Was kann ver.di tun?

• Austausch zwischen Forschung & Gesellschaft fördern, Expertise aufzubauen

• individuelle Regulierung maschineller Systeme • Untersuchung und Sanktionierung von

Datensammel- und Algorithmennutzungspraktiken

• Informatikkompetenz auf allen Ebenen • der Idee, dass jedes soziale oder politische

Problem technologisch gelöst werden kann, entgegentreten

Welche Fragen, Probleme und Ideen bringt ihr mit?

Künstliche Intelligenz in Arbeitswelt und Gesellschaft: Nachteile verhindern, Chancen nutzen

Hendrik Heuer ifib & AGIM

Dr. Martin Beckmann ver.di-Bundesverwaltung

Totalüberwachung durch Verschärfung des bayerischen Polizeirechts

DVD-Vorstandsmitglied Thilo Weichert: „Die Regelung zur Mustererkennung ermöglicht es der Polizei, technisch Menschen aus einer Menschenmenge als verdächtig herauszufischen, nur weil sie als verdächtig programmierte Eigenschaften haben. Damit wird der digitalisierten Willkür und der Diskriminierung von Minderheiten die Tür geöffnet. Dies trifft auch für die Erstellung sog. genetischer Phantombilder zu. Diese Techniken befinden sich noch in einem Entwicklungsstadium, das mehr Fehler als polizeiliche Hilfe produziert.“

Quelle Text: datenschutzverein.de Bildquelle: https://twitter.com/SophiePassmann/status/981820891217702912

Bildquelle: Wikipedia - Erasmusbrücke, Rotterdam

Kann eine Brücke rassistisch sein? Langdon Winner