Vertrauen in künstliche Intelligenz ein lösbarer Widerspruch? · 2019. 11. 18. · Künstliche...

Vertrauen in künstliche Intelligenz –ein lösbarer Widerspruch?

Innovate 2019

Bernd Schwarzer, Roland Spitzenberger | EY

Künstliche Intelligenz (KI) ist gekommen um zu bleiben!

10.3 %Potenzielles BIP-Wachstum durch

künstliche Intelligenz (Beispiel Großbritannien)

Quelle: NewStatesman (2018)

Neue Rechtliche Rahmen-bedingungen (KI-Gesetze)

Umstrukturierung des Arbeitsmarkes und neue Arbeitsmodelle

Soziale Auswirkungen in allen Lebenslagen

“New Public Governance” als Chance und Herausforderung

KI als Wettbewerbsfaktor eines Wirtschaftsraumes

21 Mrd€/Jahr

Geplantes Investment-Volumen der EU ab 2020

in KI Forschung und Entwicklung

Quelle: DSM Fact Sheet 2019

01

02

03

04

05

KI wird sämtliche öffentliche Services revolutionieren

… KI wird … im eingeschränktem Maße

bei Spezialanwendungen eingesetzt…

(aus Ergebnisbericht KI-Strategie des Bundes 2019)

Advanced Analytics Quelle: BMF

Zukünftig werden für sämtliche öffentliche

Services durch KI neue

Möglichkeiten nutzbar.

KI Trans-formation

öffentlicher Services

► “Well being”► Chatbots► Multi Channel Mgt

“Brennende” Trends

Nutzung der KI-Datenbasis

GerechteEntscheidungen

Bürger-Zentriertung

NeugestaltungVerwaltungs-

prozesse

Wien BotQuelle: Stadt Wien

► Nachhaltigkeit► Mündiger Bürger► Demokratisierung► Deregulierung

► Co-Creation► Kooperation► Automatisierung

► KI-Modellierung und KI-Check► Software-Ethics► KI-Audits► KI-Prüfsiegel

► Register, Archive► Prozessdaten► Open Data ► Open Governance

Die Reise hat gerade erst begonnen…

Das neue Paradigma: Trainieren statt programmieren, Daten statt Code

Input

Algorithmus

Output

Herkömmliche Software:

Input Output

Trainings-Input

Modell

Trainings-Output

KI – Maschinelles Lernen:

Welche Anwendungsfälle können durch KI unterstützt werden?

Analysieren,kategorisieren,

vorhersagen

• Recommender-Systeme

• Verkehrsflusssteuerung

• Steuerbetrugsbekämpfung

• Verbrechensvorhersage

Natürliche Sprache

• Sprachübersetzung

• Semantische Suche

• Datenextraktion aus Dokumenten

• Bürger-Chatbot

Bild- und Audioverarbeitung

• Medizinische Röntgendiagnose

• Videoüberwachung

• Predictive Maintenance

Smarte Roboter

• Autonome Fahrzeuge

• Drohnen, z.B. fürVerkehrsüberwachung, Infrastrukturanalysen

• Roboter, z.B. Krankenhaus, Pflege, Kriseneinsätze

Analysen Automatisierung Internet-of-Things

Risiken von KI

Worin unterscheidet sich KI zu herkömmlicher Software?

Niedrige Einstiegsbarrieren fördern dezentrale Entwicklungen

Ergebnisse basieren auf Wahrscheinlichkeiten, nicht

auf erprobten Regeln

KI lernt selbständig und kann sich unbeaufsichtigt

weiterentwickeln

Die Geschwindigkeit der Entwicklung überflügelt die

Kontrollmöglichkeiten

Entscheidungen folgenper-se keiner Ethik, Moral

und sozialer Verantwortung

Die Ergebnisse sind nur so gut und aktuell wie die

Trainingsdaten

Wie ändert sich die Entscheidungsfindung und Verantwortlichkeit?

Bisher: Verantwortung liegt beim menschlichen Entscheider

Zukunft: Verantwortung wird an maschinellen Entscheider abgetreten

► IT liefert Entscheidungsgrundlage (z.B. Analysen, Reports)

►Ressourcen-intensive Denkleistung

►Mensch handelt eigenverantwortlich und auf Basis „humanistisches Weltbild“

►Verantwortungsbewusstsein und Reflexion

Entscheidung vorbereiten

Entscheidunglernen

Menschentscheidet

KIentscheidet

KonsequenzKonsequenz

► IT ist ein umfassendes Entscheidungs-Ökosystem

►Ressorcenschonende Modell-basierte autonome Entscheidungsfindung

►Verantwortung kann nicht an KI ausgelagert werden

► „Hyper-Sorgfaltspflicht“

Können wir der Entscheidungsfindung durch KI vertrauen?

85% der KI-Projekte in 2020 werden

fehlerhafte Resultateaufgrund von verzerrten Daten, Algorithmen oder dem SW-Entwicklungsteam aufweisen.

Nur 9% der Konsumenten

würden einer KI das Management ihrer Finanzen anvertrauen.

Source: Gartner’s 2018 CIO Agenda Survey

Source: InsideSales.com 2017 KI user survey

Fehlendes Vertrauen und Ablehnung verzögert momentan den nutzenstiftenden Einsatz von KI.

Ein einziger wahrgenommener Fehler führt zu Vertrauensverlust in KI.

Fehlendes Vertrauen steht an erster Stelle der Hinderungsgründe für die Einführung von KI in Organisationen.

Fazit: Vertrauen in KI erfordert einen langwierigen Prozess der Bewusstseins-bildung und eine umfassende Anpassung der Governance-Prinzipien.

.

Nur 4% würden einem KI basierten HR

Management vertrauen.

KI-Governance muss die typischen Risikobereiche des KI-Ökosystems aussteuern

Entscheidungsergebnisse der KI werden durch manipulierte Daten massiv beeinflusst. (Adversarial attack)

Prognosemodelle werden aufgrund von falsch gelernten Zusammenhängen wertlos. (Underfitting)

Urteile einer KI wird durch eine systematische Verzerrung der Beispielfälle ungerecht. (Data bias)

Unethische Entscheidungen entstehen durch falsche Aufgaben-Fokussierung und Erfolgsmessung. (Lack of precision)

Widerstandsfähigkeit

Erklärbarkeit

Unverzerrtheit

Zielorientierung

Das Risiko von KI steigt beträchtlich mit der Leistungsfähigkeit und den mächtigen Einsatzmöglichkeiten

90er 20032000 2011 2019 20202016

Labor

Einzel-Benutzer Intelligenz

VernetzteIntelligenz

Strategie

Physische Welt Autonomie Super

Intelligenz

Kleines Risiko

Mittleres Risiko

Hohes Risiko

Quanten-Computer

73% der CEOs planen, in den

nächsten 2 Jahren KI (intelligent automation oder machine learning) einzusetzen.

Source: EY 2018 Growth Barometer

Vertrauenswürdige KI

Was zeichnet eine vertrauenswürdige KI aus?

Vertrauens-würdige

Nachvollziehbarkeit

Korrektheit und Erklärbarkeit der Methoden und Ergebnisse

Zuverlässigkeit

Sicherheit, Datenschutz, kontrollierte Evolution

Fairness

Unvoreingenommenheit,Ethik & Moral, soziale

Verantwortung & Nachhaltigkeit

Transparenz

Information über den Einsatz von KI und

Möglichkeit manueller Übersteuerung

Performance

Korrekte Funktionsweise zur Laufzeit mit neuen,

realen Daten

KI

„Trust by Design“ zur Gewährleistung einer vertrauenswürdiger KI

Ineinandergreifende Mechanismen auf Basis eines übergreifenden Risikomanagements

ZielgerichtetesDesign

EffektiveSteuerung

Durch-gängige

Kontrolle

Vertrauens-

würdige KI

Ethik-Gremium

Bewusstseinsschaffung

Unabhängige Audits

Wirkungsanalyse

Überprüfungswerkzeuge

Inventarisierung

Design Standards

Risiko-manage-

ment

Der Grundstein: proaktives Risikomanagement im gesamten KI-Lebenszyklus

ApplikationsübergreifendeKontrollen

ApplikationsspezifischeKontrollen

Integration mit Audit Standards

IT Plattform

Risiko-Framework

Transparenz

Nachvoll-ziehbarkeit

Zuver-lässigkeit

PerformanceFairness

Vertrauens-würdige

KI

Staatliche Institutionen

Internationale Organisationen

Audit Gremien

Kontinuierliche Weiterentwicklung der Methode sichert die Nachhaltigkeit

Department for Digital, Culture, Media & Sport

Centre for Data Ethics and

Innovation}

The Institute ofInternal Auditors

Centre for Data Ethics and Innovation

ISACA

IEEE

AI Expert Group European Union

AIM Austria

GovernmentOffice for Science

Branchenspez. Regulatoren

Finanzmarkt-aufsicht

Praktische Projekterkenntnisse

Technologieentwicklungen

DeepFakes

Deep Reinforcement Learning

GAN LIME

Credit RiskCustomer

SegmentationFinancial Forecast

• Neue Trends berücksichtigen und Best Practices integrieren

• Praxisrelevanz sicherstellen und Vorbereitung auf zukünftige Regularien

https://www.youtube.com/watch?v=cQ54GDm1eL0

Financial Stability Board

https://www.youtube.com/watch?v=cQ54GDm1eL0

Erfolgreicher Einsatz vertrauenswürdiger KI im öffentlichen Bereich

Finnland Aurora KIStrategic Government Services

Redesign Programme(#1 in EU DESI Rankig 2019)

Lösung großer dringender

gesellschaftlicher Herausforderungen

Umfassende Erfüllung der

Bürger-Rechte- & Bedürfnisse

Nationale KI-Strategie „People oriented proactive socienty“

Ethische Konformität und Risiko-Management für die gerechte Zuteilung von öffentlichen Services

Digital „Citizen-Twin“ trifft „KI basierten Verwaltungs-Berater“

Human-zentrierung“well being”

Vertrauenswürdige KI-basiertes Modell für öffentliche Services

Prinzip“MyData”

ÜbergreifendeService-Prozesse

Lebenslagen-Clustering zu“well being”

SemantischeOperabilitätvon Services

Ad-Hoc Service-

Orchestrierung

Data

KI01

02

03

Resümee

Etablieren Sie “Trust-by-Design” von Anfang an!

Adressieren Sie die Risiken von KI proaktiv, um das volle Potential zu nutzen!3

Nutzen Sie das Potential von KI !

Die technischen Voraussetzungen sind geschaffen, jetzt geht es an die Anwendung2

AI ist gekommen um zu bleiben.

AI wird zum digitalen Kernelement unserer Wirtschaft und Gesellschaft1

Workshop

Workshop-Themen

Anwendung von vertrauensvoller KI

im Verwaltungsbereich

Beispielhafte Fragen:

• Welche Anwendungspotentiale sehen Sie durch fehlendes Bürgervertrauen in KI gefährdet und wie kann gegengewirkt werden?

• Wieviel Verantwortung sollen wir an Maschinen abgeben, wo soll der Mensch noch die letzte Entscheidungsinstanz bleiben?

Diskussionsgruppe 1:

Nutzen gesetzlicher Rahmenbedingungen


• Welche gesetzlichen Vorgaben sollen geschaffen werden, um Vertrauen in KI zu schaffen?

• Wie stark kann reguliert werden, ohne den Marktplatz negativ zu beeinträchtigen?

• Wie kann Europa tatsächlich einen Wettbewerbsvorteil ggü. anderen Regionen generieren?


Vertrauen, Akzeptanzund gesellschaftspolitische

Auswirkungen von KI


• Welche neuen Arbeitsmodelle werden durch KI entstehen und welche Auswirkungen auf den Arbeitsmarkt und den öffentlichen Sektor wird dies nach sich ziehen?

• Wie können wir sicherstellen, dass nicht nur einzelne Groß-konzerne von KI profitieren, sondern die ganze Gesellschaft?


Moderation: Susanne Zach, Thorsten Staufer

EY | Assurance | Tax | Transactions | Advisory

Die globale EY-Organisation im ÜberblickDie globale EY-Organisation ist einer der Marktführer in der Wirtschaftsprüfung,Steuerberatung, Transaktionsberatung und Managementberatung. Mit unserer Erfahrung, unserem Wissen und unseren Leistungen stärken wir weltweit das Vertrauen in die Wirtschaft und in die Finanzmärkte. Dafür sind wir bestens gerüstet: mit hervorragend ausgebildeten Mitarbeiterinnen und Mitarbeitern, dynamischen Teams, einer ausgeprägten Kundenorientierung und individuell zugeschnittenen Dienstleistungen. Unser Ziel ist es, die Funktionsweise wirtschaftlich relevanter Prozesse in unserer Welt zu verbessern — für unsere Mitarbeiterinnen und Mitarbeiter, unsere Kunden sowie die Gesellschaft, in der wir leben. Dafür steht unser weltweiter Anspruch Building a better working world.

Die globale EY-Organisation besteht aus den Mitgliedsunternehmen von Ernst & Young Global Limited (EYG). Jedes EYG-Mitgliedsunternehmen ist rechtlich selbstständig und unabhängig und haftet nicht für das Handeln und Unterlassen der jeweils anderen Mitgliedsunternehmen. Ernst & Young Global Limited ist eine Gesellschaft mit beschränkter Haftung nach englischem Recht und erbringt keine Leistungen für Kunden. Informationen dazu, wie EY personenbezogene Daten erhebt und verwendet, sowie eine Beschreibung der Rechte, die Personen gemäß des Datenschutzgesetzes haben, sind über ey.com/privacy verfügbar. Weitere Informationen zu unserer Organisation finden Sie unter ey.com.

In Österreich ist EY an vier Standorten präsent. „EY“ und „wir“ beziehen sich in dieser Publikation auf alle österreichischen Mitgliedsunternehmen von Ernst & Young Global Limited.

© 2019 Ernst & Young Management Consulting GmbH

All Rights Reserved.

TKI 1910-022ED None

Diese Präsentation ist lediglich als allgemeine, unverbindliche Information gedacht und kann daher nicht als Ersatz für eine detaillierte Recherche oder eine fachkundige Beratung oder Auskunft dienen. Obwohl sie mit größtmöglicher Sorgfalt erstellt wurde, besteht kein Anspruch auf sachliche Richtigkeit, Vollständigkeit und/oder Aktualität; insbesondere kann diese Präsentation nicht den besonderen Umständen des Einzelfalls Rechnung tragen. Eine Verwendung liegt damit in der eigenen Verantwortung des Lesers. Jegliche Haftung seitens der Ernst & Young Management Consulting GmbH und/oder anderer Mitgliedsunternehmen der globalen EY-Organisation wird ausgeschlossen. Bei jedem spezifischen Anliegen sollte ein geeigneter Berater zurate gezogen werden.

ey.com/at

Vertrauen in künstliche Intelligenz ein lösbarer Widerspruch? · 2019. 11. 18. · Künstliche...

Documents

Transcript of Vertrauen in künstliche Intelligenz ein lösbarer Widerspruch? · 2019. 11. 18. · Künstliche...