Autonomes Handeln intelligenter Menschen: Internet der Dinge und Industrie 4.0

Autonomes Handeln intelligenter Maschinen

Internet der Dinge und Industrie 4.0

Arbeitskreis EDV & Recht, Köln, 2.12.2015

Überblick

2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 2

Wer?

• Sascha Kremer

• „Überzeugungstäter“

• Fachanwalt für IT-Recht, Datenschutzbeauftragter, Datenschutzauditor

• Lehrbeauftragter, Dozent, Autor

• „Surfer“ (Digitalisierung) und „Inselbewohner“ (Vinyl)

• twitter.com/saschakremer, slideshare.net/saschakremer

• facebook.com/lpkhb, loginpartners.de


Was?


Industrie 4.0

1.0 = Mechanisierung2.0 = Elektrifizierung3.0 = Digitalisierung

4.0 = Vernetzung

Fragen?

• Willenserklärungen?

• Haftung autonomer Systeme/für autonome Systeme?

• Leistungsgegenstand Interaktionsfähigkeit?

• Telekommunikation?

• (Personenbezogene) Daten und Zuordnung?


Willenserklärungen?


Willenserklärungen

• BGB: nicht definiert

• Willenserklärung verlangt Geschäftsfähigkeit, § 105 I BGB

• Geschäftsfähigkeit verlangt Volljährigkeit, § 104, 106 BGB

• Sonderfall: beschränkte Geschäftsfähigkeit, §§ 106 ff. BGB

• Beachte: Geschäftsfähigkeit ≠ Rechtsfähigkeit


Willenserklärungen

• Klassisches Verständnis differenziert:

• Subjektiver Erklärungstatbestand

• Handlungsbewusstsein

• Erklärungsbewusstsein

• Geschäftsführungswille

• Objektiver Erklärungstatbestand

• Rechtsbindungswille (oder dessen Erkennbarkeit)


Willenserklärungen

• Klassisches Verständnis „Computererklärung“:

• Keine Verantwortlichkeit der Maschine

• Verantwortlichkeit des Entwicklers = Geschäftsfähigen

• BGH, Urt. v. 26.1.2005 – VIII ZR 79/04:

• „Die Verfälschung des ursprünglich richtig Erklärten auf dem Weg zum

Empfänger durch eine unerkannt fehlerhafte Software ist als Irrtum in der

Erklärungshandlung [der den Programmablauf bestimmenden Person]

anzusehen.“


Willenserklärungen

• Autonomes Handeln von Maschinen

• Autonomie-Grad 10: „The computer decides everything, acts

autonomously, ignoring the human“

• Autonome Systeme verfolgen eigene Interessen (gegen Entwickler)

• Entwickler beherrscht Programmablauf nicht (mehr)

• Subjektiver Erklärungstatbestand entfällt


Willenserklärungen

• Autonomes System = kein Erklärungstatbestand

• Keine Willenserklärung = keine Rechtsgeschäfte?

• Fiktion einer Willenserklärung durch (vorherigen) Vertrag?

• Vereinbarung der Parteien über Erklärungsfähigkeit autonomer Systeme

• Beachte: Relativität der Vereinbarung = Bindung nur beteiligter Parteien

• Ersetzung Willenserklärung durch Risikozuordnung?

• mit BGB unvereinbar = §§ 104 ff. BGB analog?


Haftung?


Haftung

• Beispiel: autonomes Fahren im Smart Car

• § 7 I StVG: „Wird bei dem Betrieb eines [Kfz ...] ein Mensch getötet

[...] oder eine Sache beschädigt, so ist der Halter verpflichtet, dem

Verletzten den daraus entstehenden Schaden zu ersetzen.“

• § 7 II StVG: „Die Ersatzpflicht ist ausgeschlossen, wenn der Unfall

durch höhere Gewalt verursacht wird.“

• Fehlfunktion autonomes System = höhere Gewalt?


Haftung

• Beispiel: autonomes Fahren im Smart Car

• § 18 I StVG: „In den Fällen des § 7 [I] ist auch der Führer des

Kraftfahrzeugs [...] zum Ersatz des Schadens [...] verpflichtet. Die

Ersatzpflicht ist ausgeschlossen, wenn der Schaden nicht durch ein

Verschulden des Führers verursacht ist.“

• Fehlfunktion autonomes System = kein Verschulden Führer Kfz?


Haftung

• Vertragliche Haftung

• § 280 I 1 BGB: Pflichtverletzung beim Handeln autonomer Systeme?

• § 280 I 2 BGB: Vertreten müssen der Pflichtverletzung?

• § 241 II BGB: Schutzpflichten bei autonomen Systemen?

• § 311 II BGB: Vorvertragliche Aufklärungspflichten?

• § 434 I, 633 II BGB: Sachmangel bei Fehlfunktion?

• Darlegungs- und Beweislast? Umkehrung? Sekundäre Beweislast?


Haftung

• Gesetzliche Haftung (I)

• § 823 I BGB: Deliktische Haftung (Verschulden)?

• § 823 II BGB: Schutzgesetzverletzung?

• § 831 I BGB: Haftung für Verrichtungsgehilfen?

• Hersteller autonomer Systeme als „zur Verrichtung Bestellter“?

• Auswahlverschulden?

• Ergänzend: Organisationsverschulden, § 823 I BGB?


Haftung

• Gesetzliche Haftung (II)

• § 830 BGB: Mittäter und Beteiligte?

• § 830 I S. 2 BGB: „Das Gleiche gilt, wenn sich nicht ermitteln lässt, wer von

mehreren Beteiligten den Schaden durch seine Handlung verursacht hat.“

• Hersteller autonomer Systeme als Beteiligter = Gesamthaftung?


Haftung

• Gesetzliche Haftung (III)

• § 833 BGB: Tierhalterhaftung analog?

• § 836 BGB: Grundstücksbesitzer analog?

• Fehlerhafte Errichtung = Fehlerhafte Entwicklung autonomer Systeme?

• Mangelhafte Unterhaltung = Nichtvornahme erforderlicher Updates?

• Abwendung durch Beobachtung im Verkehr erforderlicher Sorgfalt?

• § 1 I Produkthaftungsgesetz?


Haftung

• Haftungsgegner

• Vertragsparteien

• Anwender autonomer Systeme

• Hersteller autonomer Systeme, Zwischenhändler/OEM

• Softwarezulieferer

• Datenzulieferer


Haftung

• Versicherbarkeit Haftungsrisiken autonomer Systeme?

• Deckung durch (freiwillige) Vermögensschadenshaftpflicht?

• Deckung durch (zwingende) Haftpflichtversicherung?

• Deckung durch Berufshaftpflichtversicherung?

• Beispiele:

• Automated legal decision making

• Automated medical decision making


Leistungsgegenstand Interaktionsfähigkeit?


Interaktionsfähigkeit

• Kommunikation M2M verlangt Interaktionsfähigkeit

• Interaktionsfähigkeit = Standards und Schnittstellen

• Standards und Schnittstellen sind „moving target“

• Fehlerbehebung

• Technische Änderungen

• Funktionale Erweiterungen



• Leistungsgegenstand Interaktionsfähigkeit bei Kauf

• Vereinbarte Beschaffenheit, § 434 I 1 BGB?

• Eignung für im Vertrag vorausgesetzte Verwendung,

§ 434 I 2 Nr. 1 BGB?

• Eignung für gewöhnliche Verwendung plus übliche

und zu erwartende Beschaffenheit für Sachen gleicher Art,

§ 434 I 2 Nr. 2 BGB?



• Leistungsgegenstand Interaktionsfähigkeit

• Erhaltung Interaktionsfähigkeit ist in Zukunft gerichtete Leistung

• Werkvertrag oder Mietvertrag mit Erhaltungspflicht?

• Kaufvertrag mit anschließendem Pflege-/Wartungsvertrag?

• Problem: Zugang Anbieter (Remote/IT-Sicherheit/Datenschutz)?

• Problem: Erhaltung Integration in Umsysteme?

• Problem: Test der (zukünftigen) autonomen Interaktionsfähigkeit?


Telekommunikation?


Telekommunikation

• Autonome Systeme als Telekommunikationsdienste

• Rechtsfolgen u.a.

• Meldepflicht, § 6 TKG

• Fernmeldegeheimnis, § 88 TKG

• Telekommunikationsdatenschutz, §§ 91 ff. TKG

• „Vorratsdatenspeicherung“, §§ 108 ff. TKG


Telekommunikation

• Telekommunikationsdienst, § 3 Nr. 24 TKG:

• „in der Regel gegen Entgelt erbrachte Dienste, die ganz oder

überwiegend in der Übertragung von Signalen über

Telekommunikationsnetze bestehen, [...]“

• Diensteanbieter, § 3 Nr. 6 TKG:

• „jeder, der [...] geschäftsmäßig a) Telekommunikationsdienste

erbringt oder b) an der Erbringung solcher Dienste mitwirkt“


Telekommunikation

• Signalübertragung = Rückgriff OSI-Schichtenmodell

• strittig: Einordnung OTT-Dienste („over the top“)

• VG Köln, Urt. v. 11.11.2015 – 21 K 450/15 (zu Google Mail)

• „wertend-funktionale Betrachtung“ erforderlich

• Veranlassung der Signalübertragung eines Dritten ausreichend

• Beachte: Drittbezug erforderlich (nicht ausreichend: interne Übertragung)

• Beachte: Nicht rechtskräftig, Sprungrevision zugelassen


(Personenbezogene) Daten und Zuordnung?


(personenbezogene) Daten

• Zuordnung der Daten von oder aus autonomen Systemen

• Kein Eigentum an Daten (fehlende Sacheigenschaft)

• Data Ownership bedarf vertraglicher Festlegung

• Data Quality bedarf vertraglicher Festlegung (vergleichbar SLA)

• Daten/Datensammlungen als sonstiges Recht?

• Daten/Datensammlungen als Betriebs-/Geschäftsgeheimnisse?

• Daten/Datensammlungen als Urheber-/Leistungsschutzrecht?



• Personenbeziehbarkeit der Daten

• Weites Verständnis: absolute Theorie

• Zur Entscheidung beim EuGH – C 582/14

• Vorlage durch BGH, Beschl. v. 28.10.2014 –VI ZR 135/13

• Bei Personenbeziehbarkeit: Anwendbarkeit BDSG

• Zu beachten: ggf. Vorrang Spezialgesetze (TKG, siehe oben)

• Rechtsfolge: Verbot mit Erlaubnisvorbehalt, § 4 Abs. 1 BDSG



• Lösungsansätze:

• Anonymisierung, § 3 VI BDSG = Datenschutzrecht unanwendbar

• Beachte: De-Anonymisierung führt zurück ins Datenschutzrecht

• Notwendig: Fortlaufende Überprüfung der Anonymität in Prozessen

• Pseudonymisierung, § 3 VIa BDSG = Datenschutzrecht anwendbar

• Eigene Erlaubnistatbestände (z.B. § 15 Abs. 3 TMG)

• Reduzierung der Anforderungen an TOM, § 9 BDSG



• Folgeproblem im Datenschutzrecht: Transfer in Drittland

• Zweite Stufe Rechtmäßigkeitsprüfung, §§ 4b, 4c BDSG

• Voraussetzung: Angemessenes Datenschutzniveau im Drittland (oder

Einwilligung des Betroffenen u.a. Fälle, § 4c I BDSG)

• Unwirksamkeit Safe Harbor: EuGH, Urt. v. 6.10.2015 – C-362/14

• Alternativen:

• Binding Corporate Rules, EU Model Clauses (Standardverträge)?

• Art. 38, 39 DS-GVO (Code of Conduct, Zertifizierungen)?


Fazit


Fragen?Fragen!

Sascha Kremer

[email protected]

Tel +49(2238)5408700 / Mobil +49(171)8319621

Autonomes Handeln intelligenter Menschen: Internet der Dinge und Industrie 4.0

Law

Transcript of Autonomes Handeln intelligenter Menschen: Internet der Dinge und Industrie 4.0