„zwischen nachhaltigkeit und disruption“ · Digitalisierung verstehen: } Verschiebungen im...

„zwischen nachhaltigkeit und disruption“ ein streifzug durch wirtschaft, ethik und ki

stuttgarter zukunftssymposium 2019, 15.11.2019

Prof. Dr. Joachim Fetzer www.wirtschaftsethik.com

twitter: @JoachimFetzer

Nachhaltigkeit als „Wieselwort“

www.wirtschaftsethik.com / @JoachimFetzer

}  Nachhaltige Entwicklung als gesellschaftliches Transformationsprojekt

}  Nachhaltigkeit als Antwort auf Katastrophenszenarien

}  Nachhaltigkeit als Status-Quo-Hoffnung

}  Nachhaltigkeit als Adjektiv: Die Zukunftsdimension eines Lebens in Freiheit und Würde.

1. Hermeneutische Bemerkungen


Zwei Welten – zwei Bedrohungen?


Warum alles ändern? „Früher hat man noch …“


Die Ethik wird es richten …?


}  Enquete-Kommission sei zu strukturieren nicht nach „Wirtschaft / Forschung / Ethik ….“, sondern anhand der Anwendungsfelder. „Denn es ist doch klar, welche Ethik wir in Europa und Deutschland haben und haben wollen.“

(Stuttgarter Zukunftssymposium 2018)

Ist das klar? Wer ist wir?

Ethik im Singular?


}  Ebenen unterscheiden: Individuum – Unternehmen / Organisationen – gesellschaftliche Rahmenordnung

}  Kontexte relevanter Veränderung analysieren }  Narrative interpretieren }  Vom Pluralismus moralisch-ethischer Positionen

ausgehen, eigene Position offen legen („there is no way from is to ought“).

Kurz: Erst verstehen (wollen), dann fordern !

Methodische Empfehlungen:


}  Unternehmensverantwortung. Eine wirtschaftsethische Rekonstruktion (2001)

}  Im Zentrum: Menschenwürde (2006) }  Solidarisches Bürgergeld? (2007) }  Gemeinwohl – oder: eine gute Ordnung für die

Gesellschaft (2013) }  Agenda2030 / Nachhaltige Entwicklungsziele (2015)

}  Soziale Marktwirtschaft neu denken – Wettbewerb als Kooperation (2015)

}  Ethik der Kapitalbeteiligung – Freiheit, Würde und Nachhaltigkeit in der Vermögensgesellschaft (2018)

was mich besonders geprägt hat:


Digitalisierung verstehen: }  Verschiebungen im Verhältnis

körperlicher und geistiger Vollzüge. }  Umfassende Vernetzung (zeitlich und räumlich) }  Interpretation von (Vergangenheit und) Fortschritt Digitalisierung gestalten: Menschenwürde als Anspruch auf Achtung jedes Menschen. Konkretionen: }  Lebens- und Enfaltungsrecht. }  Selbstbestimmung (zwischen Freiheit und Manipulation) }  Verantwortung (z.B. Grundeinkommen?) }  Solidarität: wechselseitige oder einseitige Abhängigkeiten }  Gerechtigkeit (z.B. Rechtssicherheit und Digital Divide)

Ein Leitmotiv: Menschenwürde


}  Arbeitsverhältnisse

}  Entscheidungsstrukturen

}  Macht und Markt

2. Ein Besuch bei drei Themenfeldern


}  Das Narrativ vom Ende der Arbeit(sgesellschaft)

}  Gibt es ein Recht auf „Alles bleibt wie es ist“?

}  Lohnarbeitszentrierung als alleinige Säule?

}  Grundeinkommen als Lösung?

Arbeitsverhältnisse


}  Größte KI-Veränderung: Neugestaltung aller Entscheidungsprozesse

}  Heuristik: Algorithmen entscheiden nie ! }  Den Akteur „Unternehmen“ nicht vergessen ! }  „Null Bock“ auf Verantwortung (seit Kain und Abel) ist

normal.

}  Leitbild: Künstliche Intelligenzen als Haustiere, d.h. domestiziert. Oder doch als „Kollegen“? .

Verantwortung und Entscheidungen


}  „Algorithmen entscheiden nie !“ Stimmt dieser Satz in einer Welt immer zahlreicherer künstlicher Intelligenzen? Genauso sehr wie: }  „Immer mehr wird von Algorithmen und nicht mehr von

Menschen entschieden.“ Unterschied: Wohin wird die Aufmerksamkeit gelenkt?

Heuristiken:


}  „Entscheidung bezeichnet den (freien) Entschluss von einzelnen oder von Gruppen, mit dem man aus verschiedenen Handlungsmöglichkeiten eine als die eigene ergreift und sich dadurch zu einem Tun oder Lassen bestimmt.

}  Durch Entscheidungen entsteht im persönlichen und politischen Raum geschichtliche Wirklichkeit.

}  Mit der Zurückführung seiner Handlungen auf Entscheidungen wird der Mensch zum Ursprung seines Tuns, für das er deshalb Verantwortung trägt, allerdings keine totale, da er den persönlichen und gesellschaftlichen Kontext seiner Entscheidung nicht mitsetzt (sh. Determination).“

Quelle: Otfried Höffe, Lexikon der Ethik

Was ist eine Entscheidung?


}  beruhen auf einer Auswahl }  machen einen Unterschied }  sind in diesem Sinne immer "diskriminierend" }  verändern den Entscheider und (zumindest damit) die

Welt }  werden daher mit Verantwortung verbunden:

Wer ist wofür verantwortlich?

Entscheidungen


}  Was soll/darf „abgearbeitet“ werden? Nach welchen Regeln?

}  Was soll/darf „entschieden“ und werden? Und von wem (daher) verantwortet? (Individuen – Organisationen, private – öffentliche)

}  Verbotene Frage: Was soll/darf dem Zufall/Schicksal überlassen werden? Obwohl dies vielleicht ungerecht, wahrscheinlich undemokratisch und per definitionem unverantwortlich ist?

Algorithmen und Gesellschaft – keine Frage der „Roboterethik“


Wer darf was entscheiden? Alte Fragen in einem neuen wirtschaftspolitischen Kampffeld


}  Welchen Kontext haben Entscheidungen?

Unterschied zwischen Passkontrolle und Partnerwahl

}  Legitimität der Entscheidung liegt bei wem? }  Gibt es ein (moralisches) Recht auf Erklärung?

- beim versagten Kredit? - bei verschmähter Liebe? - bei Gefängnisstrafe?

„Paint the black box white!“ Pflicht zur Nachvollziehbarkeit? Immer?


Situationsadäquate Kommunikation: Beispiel Schufa


Potenzieller Kunde

Schufa

Car-Sharing – Unternehmen

1


2


3

Auto Fahrrad ÖPNV

„in dubio pro emptore“? oder „minimiere falsch positiv“?

„meine Entscheidung“ oder „die Schufa war‘s?“

}  Ordnungspolitisches Leitbild: Einseitige Abhängigkeiten vermeiden, nur wenn unvermeidbar: kontrollieren

}  Pionier-Renten und natürliche Monopole.

}  Erweiterung des Marktbegriffes? Oder Bekämpfung der Kostenfrei-Kultur?

}  „Individual Pricing“ und die Akzeptanz von Märkten: eine übersehene Herausforderung

Macht versus Markt


KI 2030: Neue Vormünder?


Social Credit Scoring

}  Das ADM-Manifest von Algorithm-Watch. Eine Überarbeitung

3. Zusammenfassende Empfehlungen


1. ADM ist niemals neutral. 2. Die Schöpfer von ADM-Prozessen sind verantwortlich für ihre

Resultate. ADM-Prozesse werden nicht nur von ihren Entwicklern erschaffen.

3. ADM-Prozesse müssen nachvollziehbar sein, damit sie demokratischer Kontrolle unterworfen werden können.

4. Demokratische Gesellschaften haben die Pflicht, diese Nachvollziehbarkeit herzustellen: durch eine Kombination aus Technologien, Regulierung und geeigneten Aufsichtsinstitutionen.

5. Wir müssen entscheiden, wie viel unserer Freiheit wir an ADM übertragen wollen.

Quelle: https://algorithmwatch.org/das-adm-manifest-the-adm-manifesto/

Das ADM-Manifest




3. ADM-Prozesse müssen nachvollziehbar sein, damit sie demokratischer Kontrolle unterworfen werden können.

3. Inhaber und Nutzer von ADM-Prozessen sollten diese verstehbar halten, weil sie für deren Ergebnisse verantwortlich sind.



Quelle: https://algorithmwatch.org/das-adm-manifest-the-adm-manifesto/

Das ADM-Manifest






4. Der freiheitlich-demokratische Rechtsstaat hat diese Verantwortlichkeit sicher zu stellen, je nach Relevanz und Gefährdungspotenzial durch Kombinationen von Bildung, Haftung, Technologie, Regulierung und ggf. geeigneten Aufsichtsinstitutionen.


Das ADM-Manifest







5. Jeder sollte beeinflussen können, wieviel Vertrauen er oder sie anderen Menschen, Organisationen oder an ADM schenken will. Übergangsvorschrift im Lernprozess: Es gibt kein Recht auf „Alles bleibt, wie es ist“, aber ein Recht auf Schutz vor willkürlicher Exklusion.

Das ADM-Manifest






5. Jeder sollte beeinflussen können, wieviel Vertrauen er oder sie anderen Menschen, Organisationen oder an ADM schenken will. Übergangsvorschrift im Lernprozess: Es gibt kein Recht auf „Alles bleibt, wie es ist“, aber ein Recht auf Schutz vor willkürlicher Exklusion. Quelle: eigene Darstellung, Bild: BMJV, Habig 2018

Das A“D“M-Freiheitsmanifest


Wir müssen reden …..

}  über Digitalisierung und künstliche Intelligenzen, über sharing economy und Soziale Marktwirtschaft, über die UN-Agenda 2030 und die SDGs, über Europa (in der Welt), über (Steuer-)Moral, Compliance und Integrität, über Grundeinkommen und globalisierungstaugliche Sozialsysteme ….

}  face-to-face oder digital, one-to-one oder many-to-many

}  für Freiheit, für Würde, für Nachhaltigkeit !


BACKUP-BEREICH

}  Suchmaschinen }  Soziale Medien (bspw. Facebook-Timeline) }  Sprachassistenten (Siri, Alexa, Cortana usw.) }  Sprachübersetzer (deepl, google, …) }  Mustererkennung (Post, Qualitätskontrolle …) }  Kreditvergabe (Risikobewertung) }  Bewerbungsverfahren }  Roboter }  Autonome Fahrzeuge }  …

künstliche intelligenz ist fast überall


}  dummy

faszinosum et tremendum


}  Was soll/darf „abgearbeitet“ werden? Nach welchen Regeln?

}  Was soll/darf „entschieden“ und werden? Und von wem (daher) verantwortet? (Individuen – Organisationen, private – öffentliche)

}  Verbotene Frage: Was soll/darf dem Zufall/Schicksal überlassen werden? Obwohl dies vielleicht ungerecht, wahrscheinlich undemokratisch und per definitionem unverantwortlich ist?

Algorithmen und Gesellschaft – keine Frage der „Roboterethik“


}  1: Verschiebungen Materie-Information / Körper-Geist

}  2: Vernetzung, Speicherung und Verarbeitung von Datenströmen / Informationen

}  3: Interpretation von (Vergangenheit und) Fortschritt

2. Digitalisierung verstehen


Technik und Geschichte

Zukunft determiniert? Hier steht KI heute

Digitalisierung 1: Verschiebungen Materie-Information / Körper-Geist


}  Mensch-Maschine-Interaktion }  Mensch-Maschine-Integration }  Geistphilosophie: Monismus – Dualismus

}  Begründete Sonderstellung des Menschen oder „Speziezismus“?

}  „Ich“ bin nicht „der Mensch“ Identitäten - Anthropomorphismen und Media Equation:

Tiere-Götter-Maschine

Mein „digitales Ich“: ein idealistischer Monismus?


Digitalisierung 2: Vernetzung, Speicherung und Verarbeitung von Informationen


Kostendegression der Informations- (besser: Daten-)verarbeitung und -speicherung vgl. Erzähltraditionen – Schrift – Buchdruck – Twitter/FB

}  „Jede genügend fortgeschrittene Technologie ist von Magie nicht zu unterscheiden.“

Arthur C. Clarke

Digitalisierung 3: Interpretation von (Vergangenheit und) Fortschritt


Ein neues (kognitives) Zeitalter? Etwas Bescheidenheit wäre hilfreich


}  Algorithmen und ADM

}  Komponenten von KI, Tieren und Menschen

}  Der Status der These: Eine Heuristik

}  Warum ADM nie wirklich entscheidet.

3. Künstliche Intelligenz und ihre (Nicht-)-Entscheidungen


…


}  Algorithmus: Ein Algorithmus löst ein mathematisches Problem, d.h. er beschreibt einen für den Computer korrekt interpretierbaren Lösungsweg, der für jede durch das mathematische Problem definierte mögliche Eingabe die korrekte Lösung in endlicher Zeit berechnet.

}  Sehr hinkender Vergleich: das Kochrezept

Wer kocht denn da? (1)


Algorithmische Entscheidungsfindung (algorithmic decision making - ADM) setzt sich aus den folgenden Bestandteilen zusammen: }  Prozesse zur Datenerfassung zu entwickeln, }  Daten zu erfassen, }  Algorithmen zur Datenanalyse zu entwickeln, die die

- Daten analysieren, - auf der Basis eines (menschengemachten) Deutungsmodells interpretieren, - automatisch handeln, in dem die Handlung mittels eines menschengemachten Entscheidungsmodells aus dieser Interpretation abgeleitet wird.

Entscheidung: Delegation von Handlungsmacht an ADM?

Wer kocht denn da? (2)


Mehr als EDV ? Agent oder Akteur ?

Quelle: Bitkom /DFKI: Entscheidungsunterstützung mit Künstlicher Intelligenz, Berlin 2017, S. 16

…


Stimmt das so? Ist das vollständig?


Fragwürdig: }  Roboterethik? }  Handschlag und Schulterklopfen }  Pflicht zur Nachvollziehbarkeit Herausforderungen: }  Neu-Justierung gesellschaftlicher Entscheidungsprozesse }  Situationsadäquate Kommunikation }  Bildung: Mit dem Ich als Datenpunkt umgehen lernen

4. Nötige Lernprozesse


}  Aber: Wenn die Computer zu lernen beginnen müssen wir doch damit nicht aufhören. „Habe Mut, Dich Deines eigenen …“

Das Ende der Aufklärung?


}  dummy

Lernprozesse: Ob wir miteinander klar kommen?


### zensiert ###

So nicht ….


Bildung: Die Statistik und ich - Beispiel Bewerbung


5. Politische Thesen


}  Nicht durch Science-Fiction ablenken lassen ! Es gibt keine „künstliche Verantwortung“. Algorithmen entscheiden nicht.

}  In der Schmollecke kann man nicht gestalten: Forschungsstärke in KI-Potenz umsetzen !

}  Anwendungsfelder sind die Herausforderung: Nicht (nur) regulieren, sondern M-M-M-M* einpendeln !

* Mensch-Mensch-Maschine-Maschine-Interaktion

}  Werte statt Strukturkonservatismus ! Dies erfordert leider Abstraktion und Diskussion.

Grundsätze (netz:regeln 2017)


Digitalisierung verstehen: }  Verschiebungen im Verhältnis

körperlicher und geistiger Vollzüge. }  Umfassende Vernetzung (zeitlich und räumlich) Digitalisierung gestalten: Menschenwürde als Anspruch auf Achtung jedes Menschen. Konkretionen: }  Lebens- und Enfaltungsrecht. }  Selbstbestimmung (zwischen Freiheit und

Manipulation) }  Verantwortung (z.B. Grundeinkommen?) }  Solidarität: wechselseitige oder einseitige

Abhängigkeiten }  Gerechtigkeit (z.B. Rechtssicherheit und Digital

Divide)

Ein Leitmotiv: Menschenwürde


Quelle:


Christlicher Traditionshintergrund – fakten-basiert?


Es ist „charakteristisch für das christliche Menschenbild, groß vom Menschen zu denken und zu sprechen, weil er einen großen Ursprung und eine große Bestimmung hat. … Das christliche Menschenbild enthält aber auch das Wissen um die Fehlbarkeit des Menschen. Und dies ist nicht nur eine theoretische Möglichkeit, sondern erfahrbare Realität bezogen auf alle Menschen. Deswegen träumt das christliche Menschenbild nicht vom perfekten oder perfektionierbaren Menschen, sondern weiß um die tiefsitzende, zerstörerische, lebensfeindliche Realität des Bösen, die (sc.: bildlich gesprochen) aus dem menschlichen Herzen kommt, und sie weiß um die Notwendigkeit von Vergebung, Umkehr und Neubeginn.“ (Im Zentrum: Menschenwürde (S. 17).

Das Internet ist kaputt? Ent-Täuschungen sind heilsam !


Es ist „charakteristisch für das christliche Menschenbild, groß vom Menschen zu denken und zu sprechen, weil er einen großen Ursprung und eine große Bestimmung hat. … Das christliche Menschenbild enthält aber auch das Wissen um die Fehlbarkeit des Menschen. Und dies ist nicht nur eine theoretische Möglichkeit, sondern erfahrbare Realität bezogen auf alle Menschen. Deswegen träumt das christliche Menschenbild nicht vom perfekten oder perfektionierbaren Menschen, sondern weiß um die tiefsitzende, zerstörerische, lebensfeindliche Realität des Bösen, die (sc.: bildlich gesprochen) aus dem menschlichen Herzen kommt, und sie weiß um die Notwendigkeit von Vergebung, Umkehr und Neubeginn.“ (Im Zentrum: Menschenwürde (S. 17).

Würde und Menschenwürde


Würde von Menschen kann bedeuten … }  die Achtung, die einzelnen Menschen aufgrund einer bestimmten Leistung oder

Position zukommt. Das kann sich auf individuelle Vorbilder, Gruppen von Menschen, Berufsgruppen, Amtsträger und andere beziehen. „Dieses differenzierte Würdeverständnis ist weder kritikwürdig noch konkurriert es mit dem alle Menschen verbindenden Verständnis von Würde als Menschenwürde. Im Gegenteil: Die Stärke des gemeinsamen Begriffs der Menschenwürde bewährt sich gerade dort, wo der differenzierende Aspekt der Würde nicht hinter einer falschen Vorstellung von Gleichheit als Gleichförmigkeit zum Verschwinden gebracht wird. Eine Gesellschaft, die solche Differenzierungen von Würde aufgrund von Lebensleistung oder gesellschaftlicher Stellung nicht wahrnimmt und achtet, beschädigt langfristig sich selbst.

Die davon zu unterscheidende Menschenwürde … }  orientiert sich jedoch gerade nicht an solchen Unterschieden, auch nicht an einer

unterstellten oder anzustrebenden Gleichförmigkeit der Individuen, sondern bloß an der alle Menschen miteinander verbindenden, ihnen gemeinsamen Tatsache des Menschseins.“ (Im Zentrum: Menschenwürde (Fn. 1), S. 19)

Menschenwürde – ein Interaktionsbegriff


„Würde ist Anspruch auf Achtung. Menschenwürde ist folglich der jedem Menschen eignende, weil mit seinem Dasein gegebene und darum objektive Anspruch auf Achtung als Mensch. … Jeden Menschen in seinem Menschsein wahrzunehmen und zu respektieren, ist die konkrete Achtung der Menschenwürde, um die es bei der Interpretation und Konkretisierung der Menschenwürde geht.“ (Im Zentrum: Menschenwürde, S. 21)

Konkretion 1: Lebens- und Entfaltungsrecht


Der Anspruch auf Achtung jedes Menschen beinhaltet zunächst den Schutz des individuellen Lebens. Einerseits als Abwehrrecht gegen Schädigungen, andererseits aber auch als Entfaltungsrecht, für welches Bildung unabdingbar ist. (Vgl. Im Zentrum: Menschenwürde, S. 28f.)

Konkretion 2: Selbstbestimmung (zwischen Freiheit und Manipulation)


Achtung und Schutz der Menschenwürde wird konkret in Form der Achtung und des Schutzes des menschlichen Selbstbestimmungsrechtes. „Deswegen kann eine Gesellschaft, die sich daran orientiert, grundsätzlich nur eine freie Gesellschaft sein.“ (vgl. Im Zentrum: Menschenwürde, S. 28)

Konkretion 3: Verantwortung


Es gehört „zur Würde des Menschen, Verantwortung für sich selbst, für das eigene Leben, für die eigenen Angehörigen tragen zu dürfen und zu sollen, wo und soweit dies möglich ist. Das ist nicht mit der Menschenwürde identisch, resultiert aber aus ihr. Es handelt sich dabei einerseits um das Recht, andererseits um eine Pflicht, durch eigene Arbeit seinen Lebensunterhalt zu verdienen und durch eigene Entscheidung und Vorsorge seine Lebensplanung zu gestalten.“ (Im Zentrum: Menschenwürde (Fn. 1), S. 30)

Konkretion 4: Solidarität – wechselseitige statt einseitige Abhängigkeiten


Das hier skizzierte Verständnis von Menschenwürde rückt „den konkreten Menschen als Individuum in Gemeinschaft in das Zentrum der Aufmerksamkeit, um damit sowohl die Abstraktionen und Irrwege des Individualismus als auch die des Kollektivismus zu vermeiden.“ Der Gedanke der Menschenwürde weist auf das unverwechselbare Individuum hin und gleichzeitig auf das, was alle Menschen verbindet: Der Anspruch auf Achtung als Menschen. (Im Zentrum: Menschenwürde, S. 18). Mit Blick auf diejenigen, die sich selbst nicht helfen können ergeben sich Anforderungen der Solidarität. „Zwischen strikter Freiwilligkeit und Solidarität als Rechtspflicht existiert ein breites Spektrum von bindenden Solidaritätsformen, zu denen auch Vertragsbeziehungen gehören.“ (Im Zentrum: Menschenwürde, S. 32)

Konkretion 5: Gerechtigkeit


Gerechtigkeit ist „der beständige und dauerhafte Wille, jedem sein Recht zuteil werden zu lassen“. Gleichzeitig ist es „mit der Menschenwürde unvereinbar, wenn einzelnen oder ganzen Gruppen der ihnen zustehende und von ihnen zum Leben benötigte Anteil an Entwicklungsmöglichkeiten willkürlich vorenthalten wird und sie dadurch in Armut, Not und Elend getrieben werden.“ (Im Zentrum: Menschenwürde, S. 32f.)

„zwischen nachhaltigkeit und disruption“ · Digitalisierung verstehen: } Verschiebungen im...

Documents

Transcript of „zwischen nachhaltigkeit und disruption“ · Digitalisierung verstehen: } Verschiebungen im...